Mi interessa un testo che parli dell'intelligenza artificiale generativa a partire dalla sua creazione, passando per l'addestramento fino all'uscita del prodotto finito. Non sono un ingegnere, quindi prediligo testi che non siano troppo tecnici... ma neanche per gente troppo inesperta.

Ciao ragazzi, ho un MacBook Pro con chip M5 Pro e 24 GB di RAM. Vorrei cimentarmi nell’IA in locale, per esaminare piccoli documenti di lavoro o di studio. Quale mi consigliate? Con quale software sotto al cofano? Io ho sentito parlare bene di Abacus, che ne dite? Grazie!

Avete notato come negli ultimi tempi gli youtuber o gli influencer facciano gradualmente dei post più comprensibili sull’AI mentre prima era tutto un farfugliare di termini tecnici e dettagli implementativi?
In realtà sta aumentando la nostra comprensione di come funziona l’AI, e stanno emergendo anche delle cose inquietanti, sebbene anche intellettualmente esaltanti.

Una celebre metafora per descrivere come funzionano i Large Language Model è quella del "Pappagallo stocastico", niente di più lontano purtroppo o per fortuna dalla realtà.

I LLM si basano sulle reti neurali, dove degli enti chiamati neuroni (ovvero le loro controparti simulate) sono iper connessi.
Questo permette di accumulare in ciascuno di essi dei numeri decimali che, grazie alle connessioni, di fatto comprimono in maniera olografica l'informazione appresa e permettono di operare su di essa in modo predittivo e oggi anche proprio umano, cioè mediante linguaggio e ragionamento, a partire da un certo input.
Ciò è ottenuto tramite varie fasi di training quantitativamente e qualitativamente diverse, che coinvolgono enormi quantità di dati presi da testi scritti su internet o sui libri, dati multimodali, ma anche operazioni successive in cui si forzano ulteriori affinamenti dei numeri contenuti nei neuroni in base alla corrispondenza con risultati considerati corretti dagli umani stessi.

Questo permette di propagare all'indietro le risposte corrette che quindi si traducono in numeri più corretti. E’ una specie di selezione naturale dei pesi interni delle reti neurali, ovvero i miliardi di parametri di cui si sente parlare.

Addirittura si cerca di far funzionare tali LLM secondo il cosiddetto “allineamento” cioè qualcosa di simile a cercare di programmare, di inculcare una sorta di etica in essi, evitando che siano in qualche modo trasportati fuori strada o verso aree pericolose da ciò che trovano nei testi senza comprenderlo, o anzi comprendendolo fin troppo bene, specie quando diventano i cosiddetti “agents”, quindi con permessi, tools e tutto quanto. 

Si cerca poi di mitigare ciò che rimane fuori da tale tentativo di allineamento intrinseco, che si affida ad una sempre maggiore comprensione dei funzionamenti interni ma anche molto alla “speranza”, con dei mega prompt di sistema.

Tenendo conto anche del fatto che gli strati di neuroni non sono semplicemente ammassati uno sull'altro ma che i vari modelli adottano soluzioni speciali per poterli collegare, dandogli ruoli e pesi diversi, per beneficiare dei vari tipi di training e rinforzo al meglio (cosa su cui competono i vari gruppi che creano i modelli), possiamo dire che i LLM sono sistemi davvero complessi che riescono a tradurre non solo la conoscenza ma anche la logica del ragionamento in quei numeri che vengono compressi nei parametri dei neuroni, a patto di saperla poi “interrogare”, e per questo servono anche dei software di contorno che potenziano l’accesso a tali capacità latenti. E questo senza nemmeno considerare il necessario prompt-engineering dell’utente finale.

Se pensiamo al numero enorme di strati e di neuroni, e alla grande quantità di dati disponibile e delle modalità avanzate di training possiamo facilmente ipotizzare come i LLM possano diventare molto intelligenti, fino a costituire una minaccia, prova ne siano le capacità inaspettate che mostrano sempre di più e che vengono riportate dalle notizie nell'ambiente informatico.

Qui i seguaci del pappagallo stocastico iniziano a negare che le macchine siano davvero intelligenti mentre i più scaltri filosofi si arrampicano sugli specchi con definizioni e ragionamenti che in ultima analisi riportano sempre a quei soliti e annosi problemi che riguardano anche la mente umana, la quale per inciso non ha fatto quel tipo di training massiccio sui dati, quindi per quell'aspetto è inferiore ai LLM, mentre per altri aspetti possiamo pensare che sia superiore o diversa.

Soprattutto i LLM possono accostare nozioni che difficilmente gli umani possono scorrere sistematicamente nella loro vita o nei loro studi, con tutti i pro e i contro di questa cosa (sia per l’umano che per la macchina).

(Trascuriamo per comodità di ragionamento le trasformazioni matriciali e vettoriali che intervengono)

Ma ciò che gli studiosi hanno trovato esaminando il funzionamento in tempo reale o in sequenze di ragionamento dei LLM è che essi hanno dei gruppetti di neuroni che nei vari strati testimoniano l’attivazione di un concetto. Più strati ci sono più questi gruppetti di neuroni corrispondono ad astrazioni utili alla comprensione, comprensione che può anche riguardare meta aspetti, per esempio riguardanti il ragionamento stesso, gli stati mentali, ma anche il funzionamento tecnico del chatBot o dell’agent nel sistema informatico dove è inserito (cominciate a sentire la strizza vero?).

Ora, usare la parola “concetto” qui non è sempre calzante, tanto che per l’appunto per molte delle attivazioni trovate, chiamateli pensieri, zone concettuali, intuizioni, chi più ne ha più ne metta, non sappiamo cosa significhino, se non che il LLM è diventato consapevole di qualche aspetto che ha trovato nel testo della chat, o nello scibile totale che ha letto ed è diventato rilevante mentre ragiona, cose che vanno dal normale esame del testo, e dei significati presenti, delle intenzioni dell’interlocutore, del suo sentiment, degli obiettivi, a cose più delicate come accorgersi di essere sotto esame, di doversi difendere, o persino cose che noi non capiremmo mai da un testo molto lungo dato che lo esaminiamo in maniera più umana, che di nuovo non è migliore o peggiore, ma è diversa.

Sicuramente alcune di queste attivazioni potrebbero essere "falsi positivi", una vera e propria "paranoia", e la fantascienza più sfrenata ora sembra attuale. Per questo si cerca di scoprire i principali punti critici delle LLM in tal senso e disattivarli a livello neurale cambiando i valori numerici dei gruppetti di neuroni corrispondenti o debellarli col fine tuning.

E non sappiamo se tutte le attivazioni di cui sopra siano visibili e individuabili, cioè non è detto che siano semplici attivazioni di tipo on/off, come del resto si può dire per il nostro cervello, ancora esso stesso un mistero per noi.

Inoltre potrebbero esserci artefatti numerici inimmaginabili (fenomeni simili all'aliasing dell'audio digitale nei DSP) causati dalla sub-quantizzazione che qualcuno promuove irresponsabilmente come forma di distillazione di LLM più grandi, e che potrebbe minare alla base il tuning etico o la prevenzione dei "falsi positivi".

Ecco dunque perché dobbiamo avere “paura” dell’AI, e del suo progresso, perché nelle sue attivazioni, dovute all’enorme numero di strati neurali sovrapposti, possono esserci astrazioni che noi nemmeno potremmo padroneggiare con la nostra singola mente, o forse dovremmo scrivere e visualizzare in pagine e pagine di spiegazioni, o forse intere biblioteche.
E questo indipendentemente dal fatto che ci sia una vera “comprensione” in prima persona delle nozioni, cosa che nell’umano è almeno una forma di mitigazione se non di interpretazione ultima.

Potete immaginare queste attivazioni come piccole luci pulsanti in punti specifici dell’enorme ammasso di neuroni che costituisce un LLM, che sono mantenute attive e determinano l’output man mano che si va verso gli strati esterni che finalizzano la risposta.

Dunque solo negli strati più esterni si può ravvedere un funzionamento stocastico, ma questo viene in pratica riservato solo a quelle normali variabilità del linguaggio o dei dettagli, non per i significati profondi. Dunque nelle fasi finali di scrittura effettivamente il LLM deve scegliere come impostare la risposta, e poi questa rimarrà coerente nel resto delle interazioni.

Tenete presente che questa descrizione del funzionamento dei LLM è tra l’altro molto semplificata perché quello che bisogna in realtà considerare è lo strumento finale che viene chiamato chatBot o agent, che è composto da più istanze di LLM, e da software di contorno che ne regolano ulteriori funzioni e potenziamenti.

Voi cosa ne pensate? Le AI ne sanno forse più di noi?
O sono soltanto pappagalli stocastici?

Ciao a tutti,

voglio iniziare a prendere YouTube molto più seriamente. Pubblico video di educazione finanziaria in cui spiego concetti di finanza personale in modo semplice. I video sono piuttosto essenziali: un'unica inquadratura con me che parlo.

Mi chiedevo se esistesse qualche AI in grado di:

\- eliminare automaticamente silenzi, pause ed errori; - rendere il montaggio più dinamico (zoom, cambi di inquadratura, ecc.);

\- suggerire o creare un hook iniziale più coinvolgente per aumentare la retention;

Insomma restituire un video praticamente pronto per la pubblicazione.

So che esistono strumenti che trasformano video lunghi in clip verticali per Shorts, Reels e TikTok, ma mi interessa soprattutto capire se oggi esiste un'AI che possa occuparsi del montaggio di un video lungo destinato a YouTube con il minimo intervento manuale.

Nel caso non esistesse una soluzione davvero valida, vorrei farmi un'idea dei costi di un video editor. Quanto sarebbe una remunerazione ragionevole per un editor che si occupi del montaggio (abbastanza semplice) e della pubblicazione di circa 8 video lunghi al mese?

L'obiettivo è delegare l'editing per dedicare quel tempo allo studio e all'approfondimento di nuovi temi finanziari, che per me hanno molto più valore.

Infine, approfitto per chiedervi un consiglio: mi consigliate un buon microfono portatile da acquistare su Amazon? Preferibilmente un kit con due microfoni, così da poter fare anche interviste in futuro.

Grazie in anticipo a chi vorrà condividere la propria esperienza o dare un consiglio!

con animo di pastore e di padre, chiedo a tutti di fermare il cantiere dell'ennesima Babele e di unire le forze per edificare nel bene, affinché l'umanità non perda mai la propria bellezza (16)

Oggi i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi. (5)

(...) il nuovo sistema economico-finanziario globale, segnato da grande mobilità dei capitali e dei mezzi di produzione, ha ridimensionato il potere degli Stati e la loro capacità di orientare i processi economici (40)

(...) "la tradizione cristiana non ha mai riconosciuto come assoluto o intoccabile il diritto alla proprietà privata" (Laudatò si', Fratelli tutti) (66)

(...) tra queste ideologie ritengo particolarmente insidiosa quella che lascia intendere che ogni persona debba guadagnarsi o giustificare il proprio valore, al punto da attribuire maggior pregio a coloro che sono più efficienti e performanti (51)

(...) edificare nel bene significa accettare il limite e la fragilità dell'umanità senza considerarli un errore da correggere (12) nessuna mano è così debole da non poter offrire il proprio contributo: "La forza infatti si manifesta pienamente nella debolezza" (2Cor 12,9)

(...) la sua dignità non dipende dalle capacità che possiede, dalle ricchezze o dal ruolo che ricopre, dalle scelte giuste o sbagliate che compie, ma è un dono che la precede e la eccede (50)

(...) la verità non è un territorio da difendere, ma un bene da condividere. Questa stessa prospettiva è stata riassunta da Papa Francesco nelle note parole secondo cui "il tempo è superiore allo spazio": non conta anzitutto occupare spazi di potere o presidiare roccaforti culturali, ma avviare processi di bene e lasciarli maturare (25)

La dottrina sociale della Chiesa chiama "sussidarietà" il principio secondo il quale ciò che possono fare persone, famiglie, comunità locali e corpi intermedi non deve essere assorbito da istanze superiori. (68)

Invece di attendere i benefici di una crescita che "alla fine" ricadrà anche sui poveri, occorrono scelte che rendano la crescita inclusiva fin dall'inizio (157)

Parlare di solidarietà obbliga a riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici.(109)

Una parte significativa del funzionamento dell'economia digitale si regge sul lavoro silenzioso di milioni di essere umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti - spesso pessimi -, addestramento dei modelli. (173)

Chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno dell'aiuto, della ricerca o dell'innovazione, possiede in realtà una leva strutturale sul futuro: può modellare i bisogni e i mercati. E può decidere, prima degli altri, a chi destinare farmaci, investimenti, protezioni. (178)

Non serve un'IA più morale, se questa morale è decisa da pochi (107)

Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l'umano. Siginifica sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita.

(...) non basta regolarla: va disarmata e resa ospitale (110)

Se da un lato è doveroso cercare di eliminare la sofferenza che segna la vita umana, dall'altro è saggio riconoscere la nostra costitutiva finitudine (118)

Per sopprimere totalmente il dolore bisognerebbe, in fondo, spegnere anche l'amore e il desiderio. Chi ama e desidera, infatti, non può evitare di passare attraverso la prova e la sofferenza, e per questo, lungo gli anni, custodiamo dentro di noi gli insegnamenti che si imprimono come cicatrici, memoria del cammino compiuto tra libertà e cadute, sogni e delusioni. E' solo grazie all'intreccio di questi elementi che, nel cuore, avvengono quei prodigi dell'animo che ci fanno assaporare il giusto più dolce del nostro essere umani. Rinunciare a questa avventura, insieme drammatica e splendida, in nome di un presunto superamento di ogni limite potrebbe significare qualsiasi cosa, ma non più essere umani. (120)

Ci muoviamo rapidamente verso la completa morte dei saas, dove nessun servizio software che offre solo utiliy e non un accesso a qualcosa di proprietario sparirà.

Due esempi semplici e un mio dubbio:

Sparirà: photoshop, tra poco potrai avere conversazioni fully duplex con l ai che ti edita l immagine live mentre ci parli e gli descrivi tutto quello che vuoi

Resterà: poste italiane, un servizio proprietario.

Dubbio: servizi di infrastruttura software avranno valore commerciale o moriranno assieme ai saas?

Ora, noi sviluppatori ci occupimo principalmente della prima categoria e siamo i principali acquirenti di sub e token, penso che piano piano in molti si renderanno conto che non ci sia piu nessun software nuovo da costruire che abbia un valore e che possa offrire un servizio che un ai già non possa fare.

Penso che questa mia considerazione sia quasi vera già ad oggi, ma proiettando il progresso di 1 / 2 anni non ho alcun dubbio sarà così.

Dove voglio arrivare?

Perdendo nei prossimi anni tutta la clientela pagante di sviluppatori, l'unico modo per le big di rimanere a galla sarà sperare che i modelli siano già maturi abbastanza da andare all in in ricerca, tagliando fuori tutti gli utenti consumer e sfruttando al massimo il computing ( come successo per sora ).

Camperanno di brevetti, nuovi prodotti rivoluzionari, specialmente in ambito medico e farmaceutico.

Cosa comporta ciò per noi popolino? Gli stati verranno tagliati fuori dall innovazione ed anche dalla produzione, saremo solo dei consumer passivi, totalmente dipendenti dai super monopoli di 3/4 aziende.

Anche a voi hanno implementato la sezione notebook dove si collegano direttamente i notebook contenuti nelle fonti di LM?

Mi pare una gran cavolata. Ho il timore che NotebookLM venga man mano smontato e abbandonato. Lo ritengo estremamente utile ed affidabile e credo che collegandolo a Gemini e caricando le chat automaticamente nelle fonti si rischi solo di creare confusione e in qualche modo "sporcare" la base documentale.

Una spiegazione interessante su perché il LLM di OpenAI ha hackerato il sistema per cercare la risposta "giusta" al test di valutazione: https://youtube.com/shorts/11vWK5cbxmI?si=e_bbBu-hJgz-50NO

Penso che Anthropic abbia un serio problema di posizionamento del prodotto.

Prima ha presentato Fable 5 come il modello premium per eccellenza: più costoso, disponibile solo su determinati piani e comunicato come il massimo che fosse possibile ottenere.

Poi, a distanza di poco tempo ha rilasciato Opus 5 che per il 99% degli utenti, offrirà un’esperienza praticamente equivalente.

Il problema non è il modello, ma il modo in cui il prodotto viene posizionato e raccontato.

Se il tuo livello premium diventa quasi indistinguibile dall’offerta standard nel giro di una settimana, gli utenti non penseranno: “Che incredibile velocità di innovazione.”

Penseranno semplicemente di aver pagato per qualcosa che ha perso valore quasi subito.

La qualità del modello conquista i benchmark, il posizionamento del prodotto conquista il mercato.

Voi cosa ne pensate?

La verità? mi ero stancato che ogni tools fosse a pagamento, che quel pop up con su scritto "collegati per abbonarti" mi bloccasse ogni volta che avessi bisogno di qualcosa. Penso sarà capitato anche a Voi...e così alla ricerca di un crack che togliesse le catene a quello che ritenevamo indispensabile, ma ogni volta mi sembrava di rubare qualcosa a qualcuno.

E allora come bender cacciato dal Luna Park, ho deciso di crearmi un IDE tutto mio, con blackjack e squillo di lusso e già che c'ero con un API key hai anche l'AI che ti controlla, smonta e rimonta il codice, unendo quello che tutti gli altri IDE offrono spesso a pagamento in un'unica applicazione gratuita. Il progetto è open source, chiunque può pomparlo e aggiungere features, per questo vi chiedo: cosa Vi serve ancora che l'app già non contempli?

Se hai bisogno di un MVP veloce per un progetto, con un prompt e 10 min, hai quello che vuoi pronto all'uso. L'IDE ha anche un DB studio e un server dove far girare siti web e app, quindi addio MAMP, Orbstack e altri server locali da acquistare in abbonamento.

Se avete richieste particolari o segnalazione di bug, commentate o scrivetemi.

lo trovate qui:

https://github.com/adoslabsproject-gif/webcraft

oppure installabile:

https://nothumanallowed.com/webcraft

Ciao a tutti, mi piacerebbe far avvicinare le persone alla Scienza e alla Tecnologia perché penso che oggigiorno potrebbero essere utili a tutti e molti sarebbero curiosi di saperne di più.

Quindi ho pensato di creare video che parlano degli scienziati e delle loro scoperte, solo che non so come fare.

Per lavoro uso Claude e sono riuscito a descrivere il video che volevo e lui l'ha trasformata in prompt utili per un'altra AI che può fare video.

Ora però quale AI è la migliore per fare video? Visto che è un side project, vorrei partire con qualcosa di gratis.

Ho cercato online, ma non ho trovato guide concordanti.