Isaac Asimov (1920-1992), professore universitario di biochimica e prolifico scrittore, è conosciuto, anche dal grande pubblico, per il suo interesse verso i robot, che, all’epoca in cui incominciò a scriverne, erano ancora soprattutto frutto della sua immaginazione, ma che oggi rappresentano una realtà molto concreta e promettente, in diversi settori nei quali già trovano (e sempre più troveranno) applicazione.
Ben consapevole dei rischi che avrebbero potuto correre gli esseri umani, nella loro interazione con i robot, e della diffusa diffidenza nei loro confronti, enunciò le sue notissime Tre Leggi della Robotica (1942), che riporto qui sotto pro memoria:
- Un robot non può recare danno agli esseri umani, né può permettere che, a causa del suo mancato intervento, gli esseri umani ricevano danno.
- Un robot deve obbedire agli ordini impartiti dagli esseri umani, tranne nel caso che tali ordini contrastino con la prima legge.
- Un robot deve salvaguardare la propria esistenza, purché ciò non contrasti con la prima o con la seconda legge.
Queste tre norme di comportamento dovevano essere incorporate direttamente nello hardware dei robot, in sede di costruzione, per scongiurare il pericolo che potessero essere bypassate o alterate, se fossero state solo parte del software.
A ben vedere, dal punto di vista della produzione dello scrittore, la formulazione di queste tre leggi della robotica costituirono uno straordinario espediente letterario, una vera macchina narrativa, che fornì al suo inventore mille spunti interessanti per scrivere di loro singole violazioni (quasi sempre apparenti) o di situazioni di conflitto.
- Nel mondo di Asimov gli esseri umani e i robot si relazionano tra di loro usando il linguaggio comune, con tutto il carico della sua insuperabile indeterminatezza, in termini di equivoci, ambiguità ed imprecisioni. “Se gli uomini […] anziché lo stupido avverbio ‘forte’ […] avessero detto ‘esercita una trazione di venticinque chili’, non ci sarebbe stato alcun problema.” (Rischio, 1955).
Ma al di là di questo aspetto critico della comunicazione, è chiaro che tre o anche dieci “comandamenti” da soli, e persino un articolato e complesso corpo di leggi e di norme varie, risultano insufficienti, se non sono accompagnati dal discernimento, dal giudizio, dalla capacità di interpretarle, di ordinarle rispetto a delle priorità, determinate dalle circostanze del luogo e del momento; di soppesarne le conseguenze e scegliere tra possibili alternative comportamentali.
Qualsiasi sistema di regole, per quanto cogenti, lascia margini di arbitrio più o meno ampi. Del resto, se così non fosse, i Tribunali sarebbero vuoti ed i giudici disoccupati.
- La prima delle tre leggi della robotica è considerata la più stringente ed inviolabile. Tuttavia, “Come si comporta un robot quando sa che eliminando un essere umano ne salva altri due o tre o un miliardo?” (Tricentenario, 1976). Nei prototipi più avanzati di vettura autonoma, questo è già oggi un problema molto concreto della AI alla guida, che nell’imminenza di un possibile incidente deve decidere in frazioni di secondo quale comportamento adottare per minimizzare i danni alle persone.
- “E’ così che si crea una situazione di stallo. La Terza Legge lo induce a tornare indietro e la Seconda Legge lo induce ad andare avanti.” (Circolo Vizioso, 1942) Le situazioni di conflitto tra le tre leggi paralizzano il robot o gli creano dei malfunzionamenti simili ai nostri disturbi psicologici, di una gravità che può raggiungere anche l’annichilimento – rimane intatto esteriormente, ma non è più in grado di funzionare. “[…] davanti ad un dilemma molto grave, […] tutti i circuiti positronici del cervello brucerebbero irreparabilmente.” (Meccanismo di Fuga, 1945). Una sorta di pazzia robotica.
- Il “danno” al quale si riferisce la prima legge è solo fisico? “[…] ferire i sentimenti di una persona, mettere a dura prova il suo orgoglio, infrangere le sue speranze non si possono forse ritenere danni?” (Bugiardo, 1941). Questo, nella migliore delle ipotesi, può portare il robot a mentirci, con tutte le conseguenze negative facilmente immaginabili.
- A partire da un molto cartesiano “Io esisto perché penso”, “Cutie […] il primo robot che si interroghi sulla propria esistenza” (Essere Razionale, 1941) finisce per giudicare l’essere umano inferiore a lui e di conseguenza dubita che possa essere il suo “padrone” – ipotesi a fondamento della seconda legge e della sua inviolabile osservanza.
(Segue)