Contenere il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale, analogamente agli altri rischi su scala collettiva, come le pandemie e la guerra nucleare.[1]
È questo il testo dell’ultimo, scarno appello (al condizionale), lanciato, pochi giorni or sono, da 350 personalità di rilievo, che a vario titolo si sono occupate di AI, alcune delle quali ad altissimo livello scientifico o professionale. Rispetto a quello lanciato da Musk insieme a molti altri, circa un mese fa, che abbiamo commentato nel post “Asilomar Musk-erato”, se ne discosta per due rilevanti aspetti: rinuncia del tutto ad indicare delle possibili azioni di prevenzione, sia pure solo regolatorie come l’altro; estende esplicitamente l’allarme all’existential risk, al rischio d’estinzione per la nostra specie umana. Questo è il tema che ha motivato l’apertura stessa di questo blog alla fine del 2019 e del quale ci siamo occupati (un po’ velatamente) fin qui, per gradi, lasciando qua e là nei vari post delle briciole di Pollicino. Il rischio esistenziale per l’umanità potrebbe essere determinato dall’affermarsi di un’AGI, ovvero di una intelligenza artificiale “generale”, globale e connessa in rete, con caratteristiche ancora enormemente più estese e sofisticate di quelle attuali, già parecchio avanzate; e non è detto che ci si arrivi mai. Ma viste l’autorevolezza e la competenza dei firmatari di quest’ultimo lapidario appello, forse è ormai solo questione di tempo e quel giorno si sta avvicinando più rapidamente del previsto.
Cosa rischiamo davvero?
Immaginate uno scenario nel quale noi umani e i nostri cugini più prossimi, gli scimpanzé, non condividiamo un lontano antenato comune, vissuto circa 13 milioni di anni fa, ma discendiamo direttamente da loro, per un improvviso quanto inverosimile salto evolutivo, avvenuto in un passato abbastanza prossimo.
In tutta onestà, qualcuno può pensare che, pur con questo legame diretto e ravvicinato, avremmo nutrito nei loro confronti più rispetto e considerazione? Che ci saremmo preoccupati maggiormente del loro destino o della loro possibile estinzione? Senza considerare gli interessi economici dei bracconieri e dei loro mandanti, ma limitandoci al senso di incommensurabile superiorità che provano anche i migliori di noi nei loro confronti, nella più favorevole delle ipotesi avremmo ignorato le loro necessità vitali, li avremmo emarginati e ghettizzati. In effetti, i primati ancora presenti in natura non se la stanno passando bene; attualmente i tre quarti delle specie esistenti sono numericamente in declino e circa il 60% delle specie sono a rischio d’estinzione, scimpanzè compresi.
Eppure, nonostante la nostra posizione dominante noi dovremmo provare nei loro confronti una notevole empatia, dato che condividiamo con loro il 98,7% del DNA; l’anatomia del cervello e del sistema nervoso centrale degli scimpanzé assomiglia molto alla nostra; essi sembrano in grado di provare ed esprimere delle emozioni simili alle nostre, come la disperazione, la gioia, il dolore, la paura e la tristezza; hanno anche un linguaggio non verbale analogo al nostro – si baciano, si abbracciano, si tengono per mano, si fanno il solletico, tirano sassi e usano bastoni; la cura e i legami parentali ricordano i nostri molto da vicino; sviluppano e mantengono un’organizzazione sociale.
Ora cambiamo le parti: l’AGI assume il nostro ruolo e noi quello degli scimpanzè. Perché dovrebbe trattarci meglio e curarsi di noi più di quanto noi abbiamo fatto con i primati? Nella sua algida assenza di sentimenti e di emozioni, senza alcun bisogno di respirare, di bere e di alimentarsi non potrà certo assomigliarci quanto noi assomigliamo ai primati più evoluti. Magari non ci sterminerà intenzionalmente, ma certo non si curerà molto di esseri così diversi, inferiori, fragili, soggetti alle malattie e alla morte, dominati da pulsioni incomprensibili; oppure (e questa è una prospettiva ancora più inquietante) ci userà come cavie, come schiavi bionici, totalmente asserviti al successo di un progetto davvero alieno e, al momento, inimmaginabile, perché per la prima volta estraneo all’evoluzione.
Pura fantascienza?
[1] “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war”, Center for AI Safety, 30 maggio 2023.