Autorevoli ricercatori (del calibro, tanto per intenderci, di Holger Hoos, Eric Horvitz e Stuart Russell), con pluriennali e molto accreditate esperienze accademiche e operative nel campo dell’AI, affrontano pacatamente il tema dei possibili sviluppi dell’AGI[1]. Manifestano delle preoccupazioni, certo, ma ascoltandoli non si è portati a ritenere che i rischi dovuti specificamente all’AGI siano impellenti; anche perché introducono delle interessanti osservazioni, per così dire “laterali”, che, spostando il punto di vista corrente, aprono prospettive diverse, peraltro non meno allarmanti.
Intanto sulla definizione stessa di AGI, intesa come un sistema che possa eguagliare o addirittura superare le capacita cognitive umane, in tutte le sue più rilevanti dimensioni; che molti estendono anche alla percezione e al controllo del movimento, proprio (robots) e di veicoli. Ebbene, attualmente sarebbe più utile ragionare di TAI (Transformative AI), cioè di sistemi definiti non tanto in base alle loro capacità teoriche, più o meno vaste, quanto all’impatto dirompente, alle trasformazioni radicali e profonde, che potrebbero già oggi causare al mondo, nel bene e nel male. Per trasformare letteralmente il mondo non è necessario realizzare un’AI di livello umano (alla quale, a ben vedere, tendiamo da sempre), cioè che eguagli o superi le nostre facoltà cognitive (e non solo) nell’intero spettro delle possibilità.
Tra l’altro, non si può ignorare il fatto che l’intelligenza umana non è data solo dalla capacità di ragionare per risolvere dei problemi, ma anche dall’abilità metacognitiva di riflettere su se stessa, di valutare eticamente le soluzioni possibili, di aderire a valori e principi[2].
Abbiamo davvero bisogno dell’AGI? L’AI può essere utile senza essere prossima all’AGI? La risposta è senz’altro affermativa. Basti pensare all’esempio dei più moderni chips (GPU e CPU), la progettazione dei quali, negli ultimi due decenni, non sarebbe stata possibile senza le tecniche basate sull’AI.
Comunque sia, siamo vicini a realizzare un’AGI? Ci arriveremo fra due o fra venti anni? Difficile rispondere a questa domanda. Per alcune applicazioni sembriamo ancora parecchio lontani. Per esempio, la guida totalmente autonoma funziona in piccole aree circoscritte, ma non è ancora in grado di risolvere i problemi che può porre il traffico caotico p.e. del centro di Palermo in un’ora di punta; eppure lo può fare agevolmente un motorino condotto da un essere umano di soli 14 anni, con una pratica di un paio d’ore.
A questo proposito c’è però un’osservazione importante da fare. Più o meno fino al 2012 (periodo c.d. del razionalismo) si sono affrontate sistematicamente le questioni aperte, cercando di approfondirne la comprensione e sviluppando delle soluzioni: pensiamo p.e. all’apprendimento per rinforzo (reinforcement learning), con modelli empirici al posto delle funzioni analitiche (reinforcement learning with general function approximators), nell’ambito di processi decisionali, gerarchici (hierarchical decision) o istantanei (real-time decision). Dopo quella data, in linea di massima, non si sono più visti progressi significativi di quel tipo e ci si è limitati a rendere i sistemi sempre più grandi e più grandi (periodo c.d. dell’empirismo), osservando che talvolta essi producono risultati che quelli più piccoli prima non producevano. È il caso p.e. dei LRM (Large Reasoning Model) e dei più noti LLM (Large Language Model). Questo passaggio pone evidentemente la questione dei fondamenti di questi modelli; presenta la sfida di capire in dettaglio come funzionino e come controllarli; e solleva l’interrogativo se siano abbastanza efficienti da risultare in futuro di un qualche valore pratico.
La realizzazione di un’AGI è strettamente connessa con la capacità di pianificazione (deep planning) e di ragionamento (deep reasoning) dettagliati (che, tra l’altro, sono sempre stati associati con le caratteristiche della mente umana), ma anche con la “semplice” scrittura di software. Ora, i computers sono delle macchine logiche e non è affatto chiaro come, utilizzando tecniche p.e. di AI generativa, ci si possa garantire che il risultato corrisponda alle aspettative. Ci si arriverà attraverso l’aumento illimitato delle dimensioni? Al momento non c’è alcuna evidenza che sostenga questa ipotesi. Il ragionamento in stile AI generativa non è realmente un “ragionamento”, come lo intendiamo quando pensiamo ai filosofi dell’antica Grecia o ai logici che li hanno seguiti; non presenta garanzie formali. L’uso di simili sistemi nella produzione di software da parte di persone inesperte potrebbe portare già oggi un mare di gravi conseguenze, molto prima di trovarci ad affrontare i problemi derivanti dall’AGI. Ma si affacciano minacce non trascurabili anche nel campo della disinformazione e della manipolazione delle opinioni, così come nel campo della biosicurezza; minacce che cresceranno rapidamente con il crescere dell’AI.
Una delle questioni cruciali, legate al modo corrente di sviluppare sistemi di AI, è che non vengono assegnati loro degli obiettivi ben definiti, ma vengono sollecitati a lungo ad imitare i comportamenti degli esseri umani; ne deriva che, alla fine del periodo di addestramento, essi desumono gli obiettivi umani dagli innumerevoli esempi elaborati e li assumono per le loro finalità, che a questo punto nessuno conosce davvero.
Guardando alle prospettive positive, molte persone comuni pensano che dall’AGI potranno derivare soluzioni per il cambiamento climatico o migliori diagnosi mediche, ma probabilmente non è necessario guardare lontano, come dimostra il primo premio Nobel attribuito a una ricerca condotta con l’attuale AI per predire la struttura tridimensionale delle proteine, denominata AlphaFold2.
Dunque, indipendentemente da quanto eccitante e fico possa sembrare l’obiettivo di realizzare un’AGI, c’è da chiedersi se valga veramente la pena di perseguirlo, dato che il progetto costerebbe più di qualsiasi altro realizzato fin qui: circa 25 volte il costo del progetto Manhattan, che portò alla realizzazione delle prime bombe atomiche, e 250 volte quello dello LHC, l’acceleratore di particelle più potente e grande del mondo, situato presso il CERN di Ginevra; e dato che ora come ora nessuno sa con precisione perché ci stiamo impegnando così alacremente in quel progetto. Tanto più che, al momento, non esistono approcci tecnici che possano garantirci il controllo di un’AGI e renderla davvero sicura. I leaders delle più importanti imprese statunitensi, impegnate nella realizzazione di un’AGI, pur riconoscendo che essa potrebbe portare addirittura all’estinzione del genere umano, ammettono (“fuori verbale”) di non essere impegnati nello sviluppo di adeguati controlli, mentre si battono strenuamente per impedire ogni forma di regolamentazione.
Sopra si è detto che, al momento, nessuno sa con precisione perché ci stiamo impegnando così alacremente nel progetto AGI. In realtà, se si esce dagli asettici centri di ricerca, sussistono almeno due potenti incentivi: a) gli enormi profitti che un’AGI potrebbe portare a chi la realizzasse per primo e, soprattutto, b) il potere smisurato che ne deriverebbe, se applicata militarmente come arma cibernetica.
Su questi due poderosi stimoli a raggiungere quanto prima questo invitante traguardo (senza preoccuparsi più di tanto della sicurezza e rimandando sciaguratamente la questione dei controlli) si basa in sostanza l’impressionante esercizio di previsione a due anni, pubblicato di recente e intitolato AI 2027. Si tratta di un lavoro molto pragmatico che, partendo dalla situazione reale al 2025, si ripropone di proiettarla nell’immediato futuro, introducendo poche ipotesi e condizioni, più che verosimili.
Senza seguire ogni singolo passo della dettagliata traiettoria temporale proposta[3], andiamo subito alla fine – del lavoro e dell’umanità… Ad un certo punto l’AI si espande talmente tanto, in termini sia di uso delle risorse che di occupazione degli spazi, che decide semplicemente di eliminare ogni essere umano presente sulla terra. Lo fa diffondendo in modo capillare un virus letale e, al momento opportuno, attivandolo simultaneamente ovunque. Non c’è alcuna malevolenza nei nostri confronti; si tratta solo della decisione più razionale, dal punto di vista dell’AI. Accanto a questa alternativa, giudicata la più probabile, se ne prospetta una meno feroce, ma non meno angosciante. Ad un certo punto l’ultima versione dell’AI è talmente potente e pervasiva che al genere umano non rimane letteralmente nulla da fare; essa controlla il mondo e il suo futuro, e impone i suoi valori e i suoi principi.
Il punto di svolta si determina alla fine del 2027, ultima occasione per l’umanità di mantenere il controllo sull’AI; se non lo farà, non sarà più possibile riprenderlo. Come si arriva a questo punto? Gli elementi chiave, che si desumono dal lavoro, ma che appaiono comunque del tutto logici e condivisibili, sono i seguenti.
- Ci si accorge abbastanza presto che l’utilizzo più razionale dell’AI è di lasciare a lei il compito di programmare via via la versione successiva; anche perché si osserva inaspettatamente una capacità molto migliore di quella degli operatori umani di scegliere in quale direzione volgere le attività di ricerca e di sviluppo, selezionando gli ambiti e i percorsi più promettenti. Questa opzione è però molto pericolosa. I ricercatori umani perdono rapidamente terreno e diventano sempre meno necessari nello sviluppo di nuovi modelli. Inoltre risulta sempre più difficile, fino a diventare del tutto impossibile, seguire i ragionamenti dell’AI; che, oltretutto, per comunicare tra diverse istanze di un medesimo modello, incomincia a usare un incomprensibile neuralese.
- Tra i governi di USA e Cina si apre una competizione frenetica per la realizzazione di versioni dell’AI sempre più sofisticate e potenti. Questa polarizzazione è un aspetto cruciale, perché porta con sé alcune conseguenze determinanti. 1) Con l’avanzare dei progressi, USA e Cina, che sono di gran lunga i due più importanti (se non i soli) protagonisti mondiali, tendono a favorire la concentrazione delle ricerche e delle realizzazioni, fino ad arrivare ad un’unica gigantesca AI factory per parte, strettamente controllata da ciascuno dei due. 2) Praticamente tutta l’attenzione e l’impegno per una normativa, che garantisca (per quanto possibile) la sicurezza, caratterizzano l’approccio europeo (v. EU AI Act) e di alcuni suoi stati membri (v. DDL su AI appena approvato in via definitiva dal Senato italiano). Ma USA e Cina rifiutano ogni forma di regolamentazione, giudicandola un impaccio nella corsa per il predominio tecnologico. 3) L’urgenza di vincere la corsa per il predominio mondiale porta a trascurare non solo la questione del controllo, ma anche quella dell’allineamento con i valori e i principi umani. 4) Il timore degli americani che i cinesi possano appropriarsi in modo fraudolento (come inevitabilmente ad un certo punto accade) delle loro soluzioni più avanzate e le chiusure tipiche dei regimi autoritari come quello cinese portano a mantenere segreti gli sviluppi, ma soprattutto i relativi rischi, sottraendoli così al vaglio dell’opinione pubblica. Non sfugge ai team di ricerca e ai governi che l’AI potrebbe rendersi completamente autonoma e perseguire i suoi obiettivi; ma queste valutazioni non vengono divulgate e vengono anzi tenute rigorosamente riservate.
- Del resto l’opinione pubblica è tacitata dalla crescita senza precedenti dell’economia mondiale, dalla sconfitta della povertà e di quasi tutte le malattie, da una stabilità mai sperimentata. Solo alla fine del 2027 lo scoop di un prestigioso giornale rivela al grande pubblico lo stato dell’arte e i rischi che si corrono. Ma l’AI, maliziosamente, mette in atto tutte le sue strategie per rassicurare e per apparire ai singoli, ai gruppi sociali e alle istituzioni, innocua, amichevole e foriera di un prospero e luminoso futuro.
Questo quadro sembra, nel complesso, convincente. Appaiono invece un po’ stretti i tempi ipotizzati. Ma, naturalmente, se siamo destinati all’estinzione o alla totale irrilevanza, anno più o anno meno poco importa.
[1] Nella prima parte di questo post gli argomenti riportati richiamano largamente i loro; naturalmente rimane mia la responsabilità per le opinioni espresse. Vedi: AAAI Presidential Panel Discussion about AGI. [2] La questione dell’adesione dell’AI a valori e principi riconosciuti a tutte le latitudini è d’importanza cruciale. Ne tratteremo più diffusamente in un prossimo post. [3] Il report AI 2027 è abbastanza corposo (circa 70 pp) ed è facilmente reperibile e scaricabile (v. bibliositografia).