Com’è noto le applicazioni di AI possono comportare problemi etici e giuridici.
Gli aspetti giuridici riguardano essenzialmente l’attribuzione di responsabilità (accountability), nel caso di malfunzionamenti e di danni.
Nel classico esempio di un autoveicolo guidato dall’AI che investa un pedone, quale soggetto ne risponderà, direttamente o indirettamente? Chi ha progettato quel particolare sistema di AI? Chi lo ha programmato? Chi lo ha prodotto? La casa automobilistica che lo ha adottato e installato? Il proprietario dell’automezzo? Il rent-a-car che lo ha noleggiato?
Sull’altro versante, le questioni etiche hanno per oggetto [1] le conseguenze negative di singole applicazioni, per quanto vaste, di sistemi di AI, in particolare di quelle a scopi militari o sanitari, potenzialmente letali più spesso di altre; oppure [2] le conseguenze derivanti dallo sviluppo di un’AI dotata di consapevolezza di sé e/o [3] di un’AGI divenuta pericolosa per l’umanità intera.
Quando un sistema di AI dovesse diventare “cosciente” (e ci siamo già abbastanza vicini) dovremmo accordarci su come trattarlo, su quali diritti riconoscergli, su quali responsabilità assumerci nei suoi confronti e su quali sanzioni/pene comminare in caso di violazioni.
Quanto invece ad un’AGI di gran lunga più intelligente, informata e versatile di noi umani, dotata di una sua autonomia di azione e indipendenza di giudizio, ebbene, quando arrivassimo a quel punto (al momento ci siamo ancora lontani, ma forse non lontanissimi) sarebbe, ahimè, troppo tardi per intervenire efficacemente. Dunque, guardando a questa pericolosissima eventualità, la questione “etica”, ma anche politica, sta nel predisporre sin d’ora una forte prevenzione, nell’evitare di raggiungere indifesi quel punto di non ritorno. Questo è proprio l’argomento al quale è dedicato questo blog (v. la pagina “Motivazioni” nel menu).
È di questi giorni (13.12.2024) l’appello di molti valenti scienziati per fermare la ricerca sui c.d. batteri specchio, microrganismi sintetici creati in laboratorio, per combattere i quali non avremmo alcuna difesa immunitaria né farmacologica. Se si dovessero diffondere, andremmo incontro ad un rischio senza precedenti per la vita sulla Terra. Credo che il rischio associato ad un’AGI malevola fuori controllo potrebbe essere della medesima natura e probabilmente foriero di esiti anche peggiori.
In questo post ci limiteremo a considerare schematicamente il punto [1], sul quale già molto lavoro è stato fatto e continua ad essere fatto incessantemente, solo per elencare alcuni dei principali requisiti richiesti ad un sistema di AI, senza entrare in dettagli tecnici su come tradurli in implementazioni concrete.
Innanzitutto si richiede che il sistema sia affidabile, nel senso che possiamo fare affidamento (rely) sul suo corretto funzionamento, non che siamo chiamati ad avere semplicemente fiducia (trust) che vada bene. La differenza è importante, perché nel primo caso i ricercatori sono in grado di dirci quanto possiamo fare affidamento su una data tecnologia, per esempio calcolando il valore dell’AoR – Appropriateness of Reliance, che è una delle misure proposte dell’affidabilità di un sistema di AI.
La questione si pone in quanto le persone spesso hanno un atteggiamento ambivalente: tendono a fidarsi troppo dei sistemi di AI e li seguono anche quando sbagliano; oppure sovrastimano le proprie capacità personali, pensano di saperla più lunga dell’AI e si affidano troppo poco ad essa.
Naturalmente, affinché un sistema di intelligenza artificiale sia affidabile, dovrebbe essere innanzitutto spiegabile e interpretabile, nel senso di poter seguire (almeno in linea di principio) e capire i singoli passaggi, che da certe premesse ha portato l’AI a certe conclusioni. Molti degli attuali sistemi di intelligenza artificiale (come p.e. le deep neural networks) non godono di questi due requisiti. Secondo me, questo del black box è al momento il problema più arduo da risolvere e tenderà a peggiorare in futuro.
Quando il sistema di AI è spiegabile e interpretabile, quando si può (almeno in linea teorica) guardare dentro la scatola nera, si dice che è trasparente. Ma bisogna tenere presente che la trasparenza può anche essere solo parziale, con riferimento ai diversi possibili tipi di trasparenza: p.e. riguardo ai valori di fondo, che dovrebbero essere dichiarati e reperibili facilmente, nonché alla metodologia applicata per risolvere situazioni di conflitto tra i valori; in tema di traduzione tra le diverse lingue di fruizione ed interazione umana, terreno sul quale ultimamente sono stati fatti enormi progressi, ma sempre molto scivoloso; rispetto alla coerenza (consistency) ovvero all’uniformità dei risultati – a parità di inputs, il sistema deve fornire sempre gli stessi risultati; circa la capacità di ottenere il risultato prospettato (performance) ed in particolare alle misure della performance adottate ed all’entità dichiarata di queste misure.
Quest’ultimo aspetto è il più controverso: la performance transparency è a ben vedere un ossimoro. Se ci affidiamo ad un’applicazione di AI è proprio perché pensiamo che possa fare di gran lunga meglio di noi e quanto più progredirà l’AI tanto più le sue capacità divergeranno dalle nostre, a suo favore. Dunque i suoi processi “mentali”, i suoi “ragionamenti” diventeranno sempre meno replicabili dai nostri.
Facciamo un esempio. Sono un giocatore di scacchi esordiente e nei miei primi confronti mi faccio assistere (in barba al regolamento) da un amico che gioca abbastanza bene da un paio d’anni. Sto per fare una mossa e gli chiedo un consiglio. Le sue valutazioni sono senza dubbio migliori delle mie, ma ancora abbastanza elementari da poterle seguire, farmene un’idea personale e decidere se farle mie o meno. Ora immaginiamo che il mio consulente sia l’attuale campione del mondo di scacchi. È abbastanza intuitivo che la sua esperienza, le sue nozioni teoriche, la sua intelligenza scacchistica, la sua fantasia, la sua intuizione e quel qualcosa d’indefinibile che caratterizza i grandi interpreti di tutte le discipline, lo porterebbe ad una lunghissima e complicata spiegazione, nemmeno del tutto esaustiva, comunque incompatibile con le mie modeste capacità e con i tempi dettati dal regolamento. O mi fido “a scatola chiusa” oppure rinuncio al suo contributo. Per questo performance e transparency sono in fondo inconciliabili nel campo dell’AI, e lo diventeranno sempre di più. Si noti che non è solo una questione di percorso più o meno articolato e complesso, dalle premesse alle conclusioni, ma di tempo a disposizione, che in molte applicazioni è dell’ordine di frazioni di secondo – improponibili per i nostri riflessi.
Da ultimo, ma di certo non meno importanti dei precedenti, i requisiti della privacy e della equità, sui quali non serve spendere molte parole. Ciascuno di noi, se in qualche modo entra, con informazioni che lo riguardano, nella base di dati utilizzata da un’applicazione di AI, desidera vivamente che esse siano tutelate dalla loro diffusione in chiaro e che per questo vengano messe in atto le opportune difese contro qualsiasi violazione dell’anonimato.
D’altra parte l’applicazione di AI deve garantire che non si determinino discriminazioni di sorta rispetto a singoli individui, gruppi e minoranze, così come non vengano negate opportunità, precluso l’accesso a delle risorse, messe in atto delle profilazioni o perpetuati degli stereotipi.
Concretamente si pone la necessità di trovare ed adottare appropriate misure della correttezza e dell’imparzialità (fairness) del sistema.
Da ultimo, per concludere questo schematico elenco dei principali requisiti da soddisfare, citiamo la contestabilità, che naturalmente riguarda l’attribuzione di responsabilità ed ha come condizione necessaria la trasparenza, entrambe menzionate sopra. Se quest’ultima è soddisfatta, occorre far sapere all’utenza come è garantita la contestabilità delle decisioni adottate dal sistema, quali contenuti sono eventualmente esclusi e in che modo è possibile opporsi.