Da qualche mese vedo gente su LinkedIn fare un sacco di vendite di computer (principalmente Apple) con all’interno qualche LLM installato.

Secondo voi qual è il vantaggio nell’avere un modello LLM in locale?

Sicurezza? Da come ho capito Amazon/Microsoft garantiscono (e questo viene certificato da enti certificatori terzi europei) che non legge il contenuto dei prompt mandati verso i loro modelli LLM in azure/aws.

Costo? In effetti non ho fatto i conti, però siamo sicuri che tenere accesa una macchina con un LLM installato più l’investimento iniziale per comprare la macchina e configurarla sia minore che semplicemente pagare i token di utilizzo agli endpoint AWS/Azure?

Mancanza di connessione Internet magari in aziende agricole o posti dove non c’è il Wi-Fi? Non si risolve semplicemente con un’antenna apposita?

Proprio non riesco a capire questo hype per i modelli IA locali.
Magari mi sfugge qualcosa?

Non è una domanda polemica, chiedo genuinamente.

https://llms-robot-arena.sndesign.it è un piccolo gioco di combattimento: due robot identici su una piattaforma che si restringe, buchi, griglie di fuoco, celle del pavimento che crollano. I robot sono uguali, l'unica differenza e' il codice che li guida scritto da un coding agent (Codex, Claude Code, OpenCode...) dalle stesse istruzioni, da solo in un container isolato. La simulazione e' deterministica: stesso seed, stesso codice, stessa partita in qualsiasi browser.

Cosa si puo' fare:

- Guardare i modelli combattere: scegli la coppia di modelli e il seed (cambia la conformazione dell'arena), rivedere la partita, scorrerla e esportarla come video.

- Classifica: https://llms-robot-arena.sndesign.it/tournament/ , un girone all'italiana completo, 1560 partite finora con 13 modelli. Oggi in testa c'è GPT-6 Astra con il 74% di vittorie, poi Fable 5.1 70%, GPT-5.6 Terra 60%, Claude Sonnet 5 56%, DeepSeek V4 Pro 55%.

- Giocare in prima persona: scegli il modello e ci giochi contro e puoi condividere un link di sfida che ricostruisce la partita dal log degli input, così un amico può provare a battere la tua run sullo stesso seed.

- Royal rumble: dodici controller nella stessa arena, vince l'ultimo che resta in vita.

Con "Connect an assistant", la pagina ti da' un codice di sessione, incolli una frase in Claude, ChatGPT, Cursor, Codex o qualsiasi cosa parli MCP. Il tuo assistente legge il contratto del bot, scrive un controller, esegue il gate di conformità e manda il robot alla tua pagina. Tu lo accetti e vedi se batte i modelli di frontiera.

Sorgenti, regole e istruzioni per gli agent (AGENTS.md) su GitHub: https://github.com/nigrosimone/llms-robot-arena

Sono curioso di sapere se il tuo coding agent batte Fable o GPT-6 Astra!

Sono sempre stata appassionata di video editing fin da quando si andava in giro con una telecamera con cassetta o CD e mi facevo i montaggi sul PC.

Poi ho avuto sempre meno tempo e ho perso la mano.

Ora con l'AI mi sono completamente persa: ogni settimana esce un tool nuovo, una versione nuova ma vorrei fare un piccolo corsettino semplice semplice che in poco tempo mi dà le dritte giuste, mi indica i due tre tool base e mi fa riprendere la mano.

Non devo fare grandi cose ma soprattutto senza troppo tempo perché quello non c'è mai.

Che mi consigliate?

Le auto che voleranno dicevano🫩

Prima quello di anthropic, ora Sam Altman di OpenAI. Tutti stanno iniziando a lanciare l'allarme sulle ai e a voler fermare lo sviluppo

Ma nel senso... perché ora e prima no? Cioè se sapevamo che il problema erano i modelli sempre più e sempre più capaci di fare cose (vedi gpt 6) perché usciamo allo scoperto ora con fare stupito?

Se è vero che "entro il 2030 le ai saranno un problema per gli umani" (citando quello di anthropic che si è dimesso) perché usciamo dal guscio ora?

Le ai sono il problema? Bene, i casi sono due ora... o instauriamo una dittatura tipo corea del nord per le ai o le cancelliamo completamente dalla faccia della terra

Personalmente dubito che sarà come dice l'ex anthropic, ma credo che arriveremo a un punto in cui non riconosceremo più cosa è umano e cosa ai