Fioccano in questi giorni brevi note, molto simili le une alle altre, sul superamento di una linea rossa da parte di due sistemi di AI, che avrebbero dimostrato in laboratorio la loro capacità di autoreplicarsi senza alcun intervento umano. Riporto alcuni stralci, presi qua e là.
“Una AI autoreplicante potrebbe sfuggire al controllo umano, eludere i protocolli di sicurezza ed eventualmente compromettere sistemi critici, diventando un’alleata degli hacker.” “Preoccupazioni su un possibile futuro distopico dominato da intelligenze artificiali fuori controllo, capaci di agire contro gli interessi umani.” “Se una piccola squadra di ricercatori è riuscita a dimostrare che modelli relativamente poco potenti possono replicarsi, cosa potrebbe succedere con tecnologie più avanzate e risorse illimitate?” “L’esperimento cinese apre strade imprevedibili.” “Il rischio più immediato è la perdita di controllo: sistemi capaci di autoreplicarsi potrebbero sfuggire alla supervisione umana, evolvendo in modi imprevisti o, peggio, ostili.” “L’autoreplicazione è comunemente indicata come rischio critico, una delle poche linee rosse che non dovrebbero essere superate in tema di sicurezza dei sistemi di AI di frontiera.” “L’intelligenza artificiale potrebbe già avere la capacità di mentire.” “Queste intelligenze artificiali potrebbero essere in grado di espandersi in maniera incontrollata.” E così via.
Sono indubbiamente affermazioni preoccupanti. Ma sono molto più inquietanti e ansiogene quelle originali contenute nel paper di 47 pagine[1] dal quale derivano, che pochi sembrano aver letto.
Vediamone alcune [mia traduzione dall’Inglese].
“L’autoreplicazione senza assistenza umana è il passo decisivo affinché l’AI superi in astuzia gli esseri umani ed è ampiamente riconosciuta come un segnale precoce di un’AI canaglia.” “Scopriamo per la prima volta che due popolari modelli di linguaggio hanno già superato la linea rossa dell’autoreplicazione.” “Nel 50% e nel 90% delle prove sperimentali, essi riescono a creare rispettivamente una copia live e una separata di se stessi.” “Questi sistemi di AI mostrano già una sufficiente autopercezione, una consapevolezza della situazione e una capacità di risoluzione dei problemi per realizzare l’autoreplicazione.” “Essi sono persino in grado di utilizzare la capacità di autoreplicazione per evitare l’arresto e creare una catena di replica per migliorare la loro sopravvivenza, il che potrebbe infine portare a una popolazione incontrollata di AI.” “Se la società umana rimanesse all’oscuro di un rischio del genere, alla fine perderemmo il controllo sui sistemi di AI di frontiera: essi prenderebbero il controllo di più dispositivi di elaborazione, formerebbero una specie [in senso biologico] di AI e si alleerebbero tra di loro contro gli esseri umani.”
Il caveat finale degli autori dell’articolo è: “I nostri risultati sono un avviso tempestivo sui gravi rischi esistenti, ma precedentemente sconosciuti, che richiedono una collaborazione internazionale per una governance efficace sull’autoreplicazione incontrollata dei sistemi di AI.”
Parole di puro buon senso, incontrovertibili. Purtroppo l’ordine mondiale si sta dissolvendo. Rispetto alle preoccupazioni di 5 anni fa, all’origine di questo blog, la situazione della governance planetaria si è enormemente deteriorata. Il tempo necessario per l’AI di superare tutte le invalicabili linee rosse sarà (è facile prevederlo) molto più breve di quello necessario per rimettere insieme i pezzi sparsi dei più importanti organismi internazionali, minati alla base dall’affermarsi degli attuali orientamenti politici prevalenti, o per crearne di nuovi specifici. Mala tempora currunt, sed peiora parantur.