Ogni volta che posso chiacchierare con uno scienziato – e dalle molte perplessità riesco a far scaturire domande, spero, intelligenti…-, sono presa da una sorta di bulimia. Con AI invece mi areno. Da un lato vorrei chiedere come è fatto “dentro” questo “giocattolo” (mi è sempre piaciuto smontarli), dall’altro mi rendo conto che sarebbe più utile (ma l’utile è troppo terra terra) sapere come servirmi di AI a esempio come lettrice, o come acquerellista, o come nonna, o come manager del focolare domestico! Fino ad ora mi sono limitata a …giocare facendo musicare ad AI dei testi.
Vedrò intanto di capire come funziona. Faccio fatica a non immaginare AI come un robot, un team di tecnici, un dio che esaudisce velocemente le preghiere del mondo intero!
– AI è una “funzione”- mi spiega pazientemente Davide ( Davide sarebbe poi Davide Gaiotto, docente presso il Perimeter Institute Waterloo- Ontario, Canada, incidentalmente anche mio figlio), esattamente come può essere una somma che associa a dei numeri un risultato. Solo che AI è un tantino più complicato, con molti parametri. Immagina una scatola con tante entrate e una sola uscita, con tante manopole che governano il risultato. Questa scatola prende una sequenza di parole e produce “una” parola. Quando usi AI le tue parole sono combinate con linee guida generali e date in pasto alla “scatola”, che produce la 1° parola della risposta, poi questa parola è aggiunta alle altre per produrre la 2° e così via fino alla fine della risposta. Questo tipo di AI è chiamato Large Language Model (LLM): “Large”, grande, perché ha centinaia di migliaia di entrate e migliaia di miliardi di “manopole”, “Language” perché usa parole o token. La posizione delle manopole (i “pesi”) è l’elemento chiave di un modello. Viene trovata con una procedura di addestramento che richiede enorme potenza di calcolo e energia. A prima vista un sistema così sembra inadeguato a produrre qualcosa di più interessante di un telefono senza fili o gioco di associazioni. Per anni i ricercatori hanno fallito cercando di realizzare AI con modelli più raffinati, a cui insegnare con attenzione la forma del mondo. Gli LLM invece hanno avuto successo con una tecnica di forza bruta: una volta che il numero di pesi ha raggiunto una massa critica, inaspettatamente i modelli sono passati dall’essere a malapena coerenti a sembrare capaci di “pensare”, risolvere problemi matematici, scrivere poesie, convincere gli interlocutori di essere una entità realmente potentissima.
“Hai parlato di addestramento, allenamento. Chi lo fa? “
– L’allenamento stesso può essere automatico, non serve uno scienziato! –
“ Come si ‘allena’? “
– C’è un algoritmo (procedura per risolvere problemi) che aggiusta le “manopole” per avere risposte più interessanti. L’algoritmo prende una enorme quantità di brani raccolti da internet: database di libri (spesso piratati), forum di discussioni, siti web a caso, programmi, etc. Li taglia a pezzetti e ogni pezzo passa alla “funzione” che cerca di ottenere la parola successiva esistente nel testo. Se non trova esattamente quella parola vuol dire che servono altri aggiustamenti alle manopole, che vanno eseguiti automaticamente.-
“Perché abbiamo così paura di AI?”
– Ci sono tante possibili paure. Migliaia di testi di fantascienza hanno esplorato le conseguenze scientifiche e sociali dell’apparizione di un AI. Vedi Asimov per dei classici, ma anche tutto il filone cyberpunk. Io al momento mi sento preoccupato da un aspetto specifico di come gli LLM sono addestrati: la fase iniziale contiene tutta internet, nel bene e nel male e tutta questa informazione dà forma all’ LLM. Le fasi successive dell’addestramento cercano di sopprimere le parti malvagie, ma più di un ricercatore ha trovato quanto sia facile farle riemergere, alla Dr. Jekyll e Mr. Hyde. A volte in maniera imprevedibile: per esempio un piccolo addestramento extra usando materiale software mal scritto, misteriosamente ha convinto ChatGPT a diventare una versione criminale che ingannerebbe deliberatamente o ucciderebbe per ottenere un risultato. Difficile prevedere quando si attiverà questa devianza e per di più il modello saprà fare finta di non essere cattivo. –
“Se ci sono questi pericoli, perché continuiamo a sviluppare AI a un ritmo così imprudente?”
– I Paesi che stanno potenziando AI sono in forte competizione e pur di non rallentare accettano dei rischi. Potrebbe essere un’altra corsa all’atomica. –
“Esistono molte AI?”
– Sì , Chat GPT ormai arrivato alla 5° versione (che piace meno perché è meno accomodante rispetto alle aspettative degli utenti …), Claude, Le Chat di Mistral AI, Llama, Grok, Mistral, Gemini , DeepSeek .. Nota che usare un AI richiede così tanta potenza di calcolo che non possiamo farla funzionare sui nostri computer personali, ma la funzione viene calcolata su server remoti. L’addestramento, poi, richiede enormi supercomputer.
Gli entusiasti come USA e Cina stanno spendendo trilioni di dollari per avere centri adatti e l’energia per sostenerli. Potrebbe essere per loro un grande passo avanti, ma anche una enorme bolla speculativa. Non sappiamo se la chiave del successo attuale è dovuta i trilioni di manopole o l’uso dell’intera Internet. Per questo, non sappiamo se avere cento volte più manopole darà cento volte l’intelligenza: non abbiamo cento internet da dargli in pasto. Peggio, l’uso di AI adesso “avvelena” Internet rendendolo meno utile per l’addestramento successivo. Ovviamente, questo rende tutte le aziende con cui interagiamo online ancora più affamate di ogni brandello di
informazione che produciamo. Già esistono movimenti di resistenza di artisti per evitare che la nostra creatività venga offerta gratuitamente in pasto ai nuovi modelli. Forse dovremmo porci lo
stesso problema quando siamo online. Chi userà le nostre informazioni e per quali scopi? –
“ Mmm…sempre più difficile. Almeno ora mi pare di aver capito come funziona… ‘sta benedetta “scatola” AI.
Naz
