Nel 1950 Isaac Asimov pubblica Runaround, un racconto breve nel quale compaiono per la prima volta le famose “tre leggi della robotica”, oggi diventate l’artificio retorico citato a sproposito dagli “esperti” di “intelligenza artificiale” e “robotica intelligente”.
Le Leggi di Asimov sono una brillante invenzione letteraria ma, dal punto di vista giuridico, sono viziate da un presupposto sbagliato, e cioè che i robot possano avere il libero arbitrio.
Basta leggerle con un po’ di attenzione per rendersi conto dell’equivoco:
un robot non può fare del male ad un essere umano, nè permettere che la sua inazione provochi un danno a un essere umano,
un robot deve obbedire a tutti gli i ordini ricevuti dagli esseri umani, tranne quando questi ordini sono in conflitto con la prima legge,
un robot deve proteggere la propria esistenza purché questa protezione non sia in conflitto con la prima o con la seconda legge. 1
L’equivoco è tutto nel (non)soggetto delle Leggi Asimov: il robot.
Non è il robot a non poter fare del male ad un essere umano, impedire che la sua inazione faccia danno alla persona. E’ chi lo programma a doversi porre questiproblemi o – meglio – assumersi queste responsabilità giuridiche.
Ma, soprattutto, il robot non può proteggere la prorpria esistenza perché NON E’ VIVO.
Dunque, per poter avere (immediata) applicazione legale queste tre leggi dovrebbero essere semplicemente formulate in questo modo:
i progettisti di un robot e dei software che li controlla devono fare in modo che il prodotto non rechi danno ad un essere umano, nè permettere che la sua inazione danneggi un essere umano,
i progettisti di un robot e dei software che li controlla devono fare in modo che la macchina esegua le istruzioni ricevute da chi le utilizza, tranne quando questi ordini sono in conflitto con la prima legge,
i progettisti di un robot e dei software che li controlla devono fare in modo che la macchina non si danneggi purché questo non sia in conflitto con la prima o con la seconda legge
Ovviamente, un errore del genere non è colpa di Asimov perchè lo scienziato non aveva la minima intenzione di scrivere qualcosa che avesse una validità giuridica. Ciò che gli occorreva era un espediente narrativo per scrivere le storie del suo favoloso universo.
Ma, come nel caso di un’altra invenzione letteraria – il cyberspace – anche le Leggi di Asimov sono usate a sproposito per ignoranza o malafede, contribuendo ad aumentare il disordine culturale che si traduce nell’emanazione di norme destinate a regolare la fantascienza invece della vita reale.
- Traduzione di Andrea Monti – indedita ↩
Possibly Related Posts:
- Dentro il G-Cans
- Chatbot troppo umani, i rischi che corriamo
- Qual è il significato geopolitico del sistema operativo Huawei Harmony OS Next
- TeamLab Planets: da Tokyo la fuga verso i mondi della mente
- Chi ci protegge dal dossieraggio tecnologico?