Riprendo l’esempio degli scacchi, proposto nel post precedente (Briciole di etica dell’AI), perché estendendolo, anche di poco, si aprono prospettive inquietanti, con evidenza palmare.
Come si diceva, immaginiamo che accanto a me, scacchista alle prime armi, sieda l’attuale campione mondiale di scacchi. Devo fare una mossa e gli chiedo consiglio. Sto così mettendomi nella condizione di beneficiare al meglio di questo “aiutino” e di vincere la partita? Secondo me, no.
Posto, come abbiamo argomentato altrove, che il processo mentale che ha portato lui a suggerirmi di fare quella brillante mossa non è replicabile da me, i casi sono due: o, non capendo, rinuncio al suo suggerimento e faccio a modo mio, oppure adotto il suo suggerimento “a scatola chiusa”. Nel primo caso, interrogarlo è stata solo una perdita di tempo; nel secondo caso, ho già perso, nel senso che a questo punto mi sono autoescluso dal gioco e dipendo interamente da lui. Alla mossa successiva non saprei proprio cosa fare; tanto vale farlo sedere al mio posto. Infatti, se non ho capito quella mossa, non ho sicuramente capito nemmeno la strategia che lui, da grande maestro, intende mettere in atto, immaginando in anticipo le prossime venti mosse. Chiamiamolo, per comodità, il paradosso del consulente troppo esperto[1].
Capita l’antifona? Il gioco degli scacchi è stato sin dai primi sviluppi dell’informatica, molto prima della nascita dell’AI, un terreno di confronto tra le capacità umane e quelle digitali. Le applicazioni più recenti di AI (e.g. Stockfish15) riportano ormai punteggi di Elo (il sistema di valutazione dell’abilità di un giocatore) superiori a 3.700, quando i Super-GM (l’élite dei Grandi Maestri) superano di poco i 2.800 punti, anche grazie all’utilizzo sistematico, nella loro preparazione, dei motori scacchistici digitali.
Ora, il gioco degli scacchi simula bene la condizione di chi deve prendere responsabilmente delle decisioni in condizioni d’incertezza, con un numero altissimo di alternative, nelle istituzioni, in politica, nell’amministrazione pubblica e privata, nella ricerca, ecc. Dunque è giustificata la previsione che in futuro l’AI tenderà a sostituire via via ruoli dirigenti sempre più alti, mandando in soffitta chi li ricopriva.
Nell’attuale stadio di sviluppo dell’AI è già forte la preoccupazione che molte professioni possano scomparire; ma perché questo processo di sostituzione dovrebbe arrestarsi, dato il paradosso del consulente troppo esperto?
Quali sono le prospettive? Di poco conto per gli appassionati di scacchi, che potranno continuare a divertirsi giocando in modo umano, dato che il regolamento impedisce loro di farsi aiutare dall’esterno. Di grandissimo impatto per l’umanità; ammenoché non si stenda un regolamento internazionale, che vieti o limiti opportunamente l’utilizzo dell’AI in certi campi, lo si approvi tutti (ma proprio tutti) e ci si doti soprattutto della forza necessaria per farlo osservare. C’è da dubitare seriamente, almeno al momento, che lo si possa far rispettare dagli umani; ma in particolare dalle prossime generazioni di AI.
[1] Paradosso che peraltro già viviamo, quando ci mettiamo interamente nelle mani p.e. del medico che ci cura o dell’avvocato che ci difende. Che però non vale fino alle estreme conseguenze, come sarebbe sempre bene ricordare, perché, quando il rapporto è da umano a umano, pur con rilevanti differenze di competenza e di esperienza, ci rimane sempre un po’ di autonomia e la parola finale.