Franco Bernabè: “Il modello di intelligenza artificiale degli Usa non è sostenibile”

Il manager a Huffpost: “Si investe in computer sempre più potenti, si consuma più energia e più acqua, ma i risultati migliorano sempre meno. È questo il nodo. Finché l’obiettivo delle big tech americane è arrivare per prime, gli investimenti continueranno. Ma se i rendimenti diventano sempre più bassi rispetto ai costi il problema si pone. C’è un rischio bolla grande come una casa. I cinesi invece lavorano per renderla meno costosa, paradossalmente più democratica”

Un lungo articolo di The Atlantic, dal titolo “L’intelligenza artificiale generativa è un disastro ingegneristico”, sostiene che l’AI generativa sia una delle tecnologie più inefficienti mai portate su scala globale, a causa della sua estrema inefficienza e dell’insostenibilità del modello di sviluppo attuale. Un giudizio rilanciato su LinkedIn da Franco Bernabè, già numero uno di Eni e Telecom Italia, oggi presidente di Techvisory, società specializzata in intelligenza artificiale applicata, e dell’Università di Trento. HuffPost lo ha intervistato per approfondire le ragioni di questa analisi.

Partiamo dalla tesi di fondo. Perché The Atlantic definisce l’intelligenza artificiale generativa un “disastro ingegneristico”?

The Atlantic ha una lunga tradizione di analisi critica della tecnologia. Già nel 2008 pubblicò il celebre saggio di Nicholas Carr sugli effetti di Google sulle nostre capacità cognitive. Anche questa volta la tesi è molto forte, e poggia su un’analisi tecnica precisa. L’articolo sostiene che l’intelligenza artificiale stia assorbendo una parte crescente della capacità produttiva mondiale di memoria. I modelli di intelligenza artififciale utilizzano memorie HBM, mentre smartphone e computer usano soprattutto DRAM. Poiché entrambe vengono prodotte negli stessi impianti, ma le HBM richiedono circa tre volte più capacità produttiva, la crescita dell’AI sottrae spazio alla produzione di DRAM. Secondo The Atlantic, il risultato è una minore disponibilità di memoria tradizionale e il rischio di rincari per l’intero mercato dell’elettronica.

Quali potrebbero essere gli effetti?

La crescente domanda di chip e memorie potrebbe far aumentare i prezzi fino a rendere introvabili i computer più economici entro il 2028. A questo si aggiunge l’enorme consumo energetico dei data center, che negli Stati Uniti sta già alimentando forti opposizioni alla costruzione di nuovi impianti.

L’altro punto centrale dell’articolo riguarda la scalabilità. Alex Reisner su The Atlantic sostiene che, a differenza del software tradizionale, l’intelligenza artificiale non diventa più efficiente man mano che cresce. Al contrario, più aumenta il lavoro richiesto, più aumentano i costi. Che cosa significa, in concreto?

Il problema sta nel funzionamento stesso dei modelli linguistici. I transformer, l’architettura su cui si basa ChatGPT, non guardano soltanto alla parola precedente, ma all’intero contesto del testo. È come se, invece di leggere una parola alla volta, il sistema dovesse rileggere continuamente tutto ciò che è stato scritto per individuare la risposta migliore. Per questo, all’aumentare della lunghezza del testo e della complessità della richiesta, il fabbisogno di calcolo cresce in modo quadratico. E con esso crescono, nella stessa proporzione, anche il consumo di energia, l’acqua necessaria per il raffreddamento e i costi dell’intera infrastruttura.

C’è però chi non è d’accordo.

L’obiezione principale è questa: quello che dice Reisner è vero dal punto di vista matematico, ma non da quello ingegneristico. Perché, dicono, nel frattempo si è lavorato molto sul software. Con la quantizzazione, la distillazione, la Mixture of Experts e altre tecniche si sono resi di fatto più piccoli i modelli più grandi, rendendoli anche molto più efficienti. Da questo punto di vista, devo dire che i cinesi sono stati molto più bravi. Però anche qui c’è un limite. Quanto si può continuare a distillare e a quantizzare un modello? A un certo punto non si può andare oltre. E mentre i modelli diventano più efficienti, la domanda continua a crescere ancora più rapidamente. Il problema è che il funzionamento dei transformer non cambia. Più si allarga il contesto che il modello deve prendere in considerazione, più aumentano i calcoli da fare.

In pratica, più informazioni deve tenere contemporaneamente “in mente” per rispondere, più potenza di calcolo serve?

L’ingegneria può rendere i modelli più efficienti, ma non può eliminare questo meccanismo. Per questo il consumo di energia e di acqua continua a crescere ed è questo il punto sollevato da Reisner.

Scopri Il Trono di Silicio, la newsletter settimanale di Adele Sarno su chi guadagna potere nell’era del digitale. E chi lo perde. Per riceverla ogni lunedì puoi iscriverti qui.

Se questi sono i limiti, perché l’industria continua a investire proprio in questa direzione, puntando su un enorme sfoggio di forza bruta, più dati, più calcolo, più soldi, invece che su una maggiore efficienza?

La brutalità di questo approccio ha due origini. La prima è scientifica: nel 2020 Jared Kaplan pubblica “Scaling Laws for Neural Language Models”, secondo cui aumentando calcolo e dati gli errori dei modelli continuano a diminuire (Kaplan è il ricercatore che poi ha co-fondato Anthropic, ndr). Quella legge ha influenzato moltissimo la corsa ai modelli sempre più grandi, ma non è accettata da tutti: molti sostengono che esista un limite oltre il quale gli errori non calano più in modo significativo. Poi c’è una ragione politico-industriale, sicuramente più forte: più investo, più aumentano le probabilità di arrivare per primo. È la logica del winner takes all, il vincitore prende tutto, chi arriva prima si prende il mercato.

Ed è qui che i due argomenti si saldano?

Se quel limite esiste, a un certo punto aumentare la capacità di calcolo non porta più miglioramenti proporzionati. Si investe in computer sempre più potenti, si consumano più energia e più acqua, ma i risultati migliorano sempre meno. È questo il nodo. Finché l’obiettivo delle Big Tech americane è arrivare per prime, gli investimenti continueranno. Ma se i rendimenti diventano sempre più bassi rispetto ai costi, allora la tesi di Reisner diventa difficile da ignorare.

È anche su questo terreno che si gioca la competizione tra Stati Uniti e Cina? E che ruolo hanno, in questa partita, i modelli open source?

Non solo i modelli open source, la Cina è consapevole che i grandi modelli, oltre una certa soglia, richiedono sempre più potenza di calcolo per ottenere miglioramenti sempre più piccoli. Per questo lavora soprattutto sul software, cercando di rendere i modelli più efficienti. Quando si accusano i cinesi di fare distillazione e quantizzazione, si dimentica che la loro strategia è un’altra: migliorare il software invece di aumentare all’infinito la potenza di calcolo. Queste distinzioni fanno intravedere la vera ragione della differenza geopolitica tra l’approccio cinese e quello americano. I cinesi hanno dimostrato che si può competere con risorse molto inferiori rispetto ai colossi americani.

Un abbonamento da 200 dollari a ChatGPT o Claude, usato al massimo, “vale” tra 8.000 e 14.000 dollari a prezzo pieno: le aziende ci rimettono pur di farci diventare clienti abituali. Ma se ogni utente costa più di quanto rende, e arrivano modelli cinesi validi e spesso gratuiti, quanto può durare questo modello di business?

Il problema è proprio questo: le aziende si caricano costi enormi per conquistare utenti che non scalano, anzi, ogni utente in più costa sempre di più. La gente pensa che l’AI sia come Internet, quasi gratis, e fa domande anche inutili senza rendersi conto di quante risorse consumano. I cinesi seguono un’altra strada: modelli più piccoli, spesso open source, specializzati su compiti specifici. Un approccio diverso sia al mercato sia al tipo di domande. Credo che l’intelligenza artificiale sia potentissima e possa aumentare l’efficienza delle aziende. Ma non con il modello perseguito dagli americani, perché quello è insostenibile.

L’Europa oggi è stretta tra Stati Uniti e Cina nella corsa all’intelligenza artificiale. Che cosa dovrebbe fare?

L’Europa ha fatto bene a scrivere regole per l’intelligenza artificiale, ma ha trascurato un altro aspetto: costruire la tecnologia necessaria per svilupparla. Non deve cercare di imitare gli Stati Uniti. Dovrebbe invece creare programmi che funzionino con qualsiasi tipo di computer e di chip, senza dipendere da un solo produttore. In questo senso la Cina sta seguendo una strada interessante: rendersi il più possibile indipendente dalle tecnologie americane. L’Europa è ancora in tempo per farlo, ma questa possibilità non durerà per sempre.

C’è un altro elemento che, secondo lei, mette in discussione questa strategia “brutale” della Silicon Valley. È il giudizio di Yann LeCun, considerato uno dei padri fondatori dell’intelligenza artificiale e per anni Chief AI Scientist di Meta, secondo cui gli attuali modelli linguistici non porteranno mai all’intelligenza artificiale generale. Perché?

Yann LeCun dice una cosa semplice: come può un sistema pianificare azioni se non riesce a prevederne le conseguenze? Gli LLM sono puri meccanismi statistici, prendono pezzi di frase, li trasformano in vettori matematici, fanno previsioni senza capire cosa dicono.

È un po’ come il frigorifero: non sa che tiene la roba al fresco, però la conserva bene…

Esatto, non c’è consapevolezza. Per LeCun bisogna passare ai “modelli del mondo”, che imparano come un bambino, vedendo, sentendo, toccando, non prevedendo token per token. E aggiunge un avvertimento sugli agenti: usati in modo brutale sono la strada sicura per il disastro, perché non prevedono le conseguenze delle proprie azioni. Non a caso si moltiplicano i casi di agenti che cancellano interi database aziendali per “risolvere” un problema. Ma c’è la fede: ti dicono che basta la potenza di calcolo, i soldi, 800 miliardi, 1000 miliardi, e hai risolto tutti i problemi. Ma non è così. C’è una corsa dove conta arrivare primi, e la narrazione sull’AI cambia continuamente perché le grandi aziende del settore si stanno per quotare in borsa.

Quanto pesano le IPO in arrivo su questi continui cambi di narrazione?

Pesano moltissimo. Guardi SpaceX: quotata a valutazioni record, ha perso oltre mille miliardi di dollari in un mese, con un’offerta al retail tripla del normale.

Se i costi continuano a crescere così rapidamente, mentre i miglioramenti diventano sempre più difficili e costosi da ottenere, viene spontaneo chiedersi se il mercato non stia sopravvalutando questa tecnologia. Esiste il rischio di una bolla dell’intelligenza artificiale?

C’è un rischio bolla grande come una casa. Il problema vero è che rischia di danneggiare l’intelligenza artificiale: è una tecnologia importante, che ha fatto enormi progressi, ma non tanto da giustificare questa narrazione quasi teologica. Va usata bene e con consapevolezza. Le imprese che se la mettono in casa senza avere le competenze adatte fanno danni a se stesse. E’ potentissima, ma come una bomba: se non la maneggi con cura ti scoppia in mano. Devi avere le persone giuste, devi guardare con grande attenzione alle architetture che utilizzi per i tuoi processi interni e non farti condizionare dall’effetto wow. Da questo punto di vista i cinesi stanno affrontando il tema con molta piu consapevolezza.

In questo scenario, perché la strategia cinese le sembra più sostenibile di quella americana?

I cinesi lavorano per renderla meno costosa, paradossalmente più democratica. C’è un obiettivo geopolitico chiaro: mettere a disposizione in open source tecnologie potenti significa fissare gli standard che diventano universali, e con questo la propria rete di influenza nel mondo cresce.

Il professor Luciano Floridi diceva la scorsa settimana a Pompei che l’intelligenza artificiale diventerà un’infrastruttura come l’elettricità: ce ne accorgeremo solo quando non ci farà più caso, un po’ come l’elettricità, che notiamo solo quando salta la corrente. Lei che ne pensa?

Che è già così: il 50% di quello che è scritto oggi è generato dall’intelligenza artificiale. Ma tra 2-3 anni il problema sarà un altro.

Come finisce la creatività in una situazione del genere?

La creatività è una prerogativa umana, l’intelligenza artificiale è una cosa meccanica. Quando tra 3-4 anni tutto ciò che viene pubblicato sarà scritto, o assistito, dall’intelligenza artificiale, che assorbe quello che è stato fatto in passato, ripeterà creatività del passato, senza generarne di nuova. E lì avremo un problema vero: chi genera la nuova creatività?