• LinkedIn
  • Telegram
  • FB
  • FB

Magazine Intelligenza Artificiale: l'IA è più di quello che appare

Magazine Intelligenza Artificiale: l'IA è più di quello che appare

Io, Robot: un’agenda filosofica sull’intelligenza artificiale. Parte I: Le Tre Leggi

3 leggi della robotica di Asimov

Questo articolo apre un ciclo in quattro parti che legge Io, Robot di Isaac Asimov come un’agenda filosofica per l’intelligenza artificiale: dalle regole del comportamento robotico al problema della persona, dai limiti della logica fino a libertà e privacy. Le altre tappe sono: Parte II, Robbie come personificazione di un dilemma; Parte III, Cutie, limiti e pericoli della logica nell’IA; Parte IV, Herbie, la libertà e la zona d’ombra delle Tre Leggi.

Asimov come mappa filosofica dell’IA

Quando nell’immaginario comune si chiama in causa l’argomento dell’intelligenza artificiale risulta difficile non pensare almeno di sfuggita ad Isaac Asimov e al suo Io, Robot. Tuttavia, è bene prestare attenzione a non liquidare velocemente tale opera di fantasia, bollandola come mera narrazione suggestiva ed utopistica, a metà strada tra la megalomania creatrice umana e il sogno impossibile. Infatti, solo ad una lettura superficiale e priva di sguardo critico questo testo apparirà così. In realtà, esso è una vera e propria agenda filosofica sull’intelligenza artificiale, una costruzione fantastica che è in grado di dispiegare, a chiunque avrà la premura di approcciarvisi con lo spirito intellettuale corretto, quello che appare come un autentico catalogo dei principali problemi che già oggi l’IA ci chiama a prendere in seria considerazione. Io, Robot è, in altri termini, una mappa utile a tracciare i confini regolativi delle nostre indagini filosofiche e capace di permetterci di evitare pericolose peregrinazioni argomentative fuori da un campo che si presta facilmente all’insidiosa eventualità di risultare per tutti e per nessuno. Anche il campo di indagine più vasto, infatti, ha pur sempre dei limiti metodologici.

Il libro presenta una struttura di tipo antologico, si tratta cioè di una raccolta di brevi racconti accomunati dallo stesso tema, in questo caso: il rapporto tra la società umana e i robot, sistemi di intelligenza artificiale ormai giunti ad un grado tale di complessità da risultare quasi coabitanti di quella stessa società. L’opera ci presenta un mondo in cui gli esseri umani convivono con robot perfettamente integrati, anzi direi fondamentali per il funzionamento stesso di quella vita quotidiana futuristica. Il protagonista, un anonimo giornalista, conduce una serie di approfondite interviste con Susan Calvin, una psicologa delle menti robotiche tra le più importanti al mondo, giunta ormai a fine carriera. Attraverso i racconti dell’interlocutrice, il giornalista, che nel testo risulta essere la personificazione del lettore, spettatore privilegiato di rivelazioni inedite e salti nel passato della robotica, ricostruisce la storia e i progressi dell’intelligenza artificiale, dai primi modelli di robot dalle funzioni limitate ed incapaci di parlare sino a entità munite di cervelli sofisticati, capaci di sfiorare l’onniscienza, l’empatia o la capacità di leggere nel pensiero. E proprio durante queste narrazioni è possibile incontrare, presentati con sapiente maestria letteraria, alcuni dei più importanti problemi che la sfida dell’IA ci pone già ad oggi, attraverso l’impiego di sistemi che, rispetto a quelli prospettati dall’immaginazione sconfinata di Asimov, paiono vera preistoria tecnologica.

Le Tre Leggi: un codice morale incorporato

E in questo mio ciclo di articoli, dedicato ad una lettura filosofica dell’opera di Isaac Asimov, non posso esimermi dal prendere le mosse a partire dalla formulazione delle Tre Leggi della Robotica. Le Tre Leggi costituiscono il DNA mentale del cervello di ogni robot. Ogni robot, una volta assemblato, prende coscienza grazie all’impianto di un sofisticatissimo cervello, il cui hardware nasce già munito di un basilare codice morale imposto, un codice apparentemente, e si tenga a mente questo aggettivo lungo tutta la lettura, deontologico. Di seguito la formulazione esatta dello stesso:

  1. Un robot non può arrecare danno a un essere umano, o, mancando di agire, lasciare che un essere umano subisca un danno.
  2. Un robot deve obbedire agli ordini che riceve da un essere umano, se ciò non è in conflitto con la Prima Legge.
  3. Un robot deve proteggere la propria esistenza, se ciò non è in conflitto con la Prima e la seconda Legge.

Obbedienza, autoconservazione e controllo

La lettura di questa formulazione è estremamente suggestiva. Dalla morale robotica traspare infatti un’azione creatrice umana che ha avuto premura di garantire i propri vantaggi. La priorità assoluta nella progettazione delle menti robotiche è stata conferita allo scongiurare che queste entità tanto sofisticate potessero emanciparsi dagli esseri umani al punto da diventare capaci di ledere la loro incolumità. A questo segue immediatamente la clausola del servilismo, un’obbedienza incondizionata ai comandi dell’uomo e solo in subordine a questi due aspetti troviamo il principio di autoconservazione della macchina. Si tratta di un aspetto suggestivo e carico di conseguenze teoriche, infatti, nell’immaginario di Asimov, l’intelligenza artificiale si prospetta come l’unico agente ontologico che non ha nell’istinto di autoconservazione il tratto biologico-metafisico primordiale. Le macchine sono prima di tutto incapaci di arrecare danno al creatore, poi obbedienti, con il solo limite della Prima Legge, e solo dopo tendenti alla sopravvivenza.

In tre semplici assunti il lettore viene reso edotto degli schemi comportamentali dei robot. Pur trattandosi di sistemi incredibilmente sofisticati, più vicini all’umano dei primati, le loro azioni sono determinate da schemi logici elementari. Inoltre, a differenza dell’essere umano, che ha sempre la facoltà di porre in discussione quanto appreso con l’educazione e i valori che fanno da guida alla propria condotta, le macchine si vedono imposto tutto questo e non hanno facoltà di cambiare le proprie credenze: senza, semplicemente, non avrebbero un cervello. Così, da Io, Robot, emerge un’IA che resta ancora relegata alla categoria di strumento umano, in quanto le Tre Leggi agiscono come un telecomando passivo sulle loro azioni, invalidandone un libero arbitrio che risulta assolutamente potenziale, dato il loro incredibile sviluppo cognitivo, ma assolutamente da aberrare per il mantenimento del controllo sul proprio mondo da parte degli esseri umani loro creatori.

Quando le regole iniziano a essere interpretate

Tuttavia, creare una mente significa creare pensiero, e il pensiero è per sua natura incontrollabile. Nel momento in cui si insegna a pensare si conferisce la possibilità di porre in discussione, di farsi domande scomode. Così, pur non potendo eludere le Tre Leggi, i robot più avanzati iniziano ad interpretarle, poiché comprenderle, per loro, significa comprendere sé stessi, attraverso un procedimento di autentica filosofia robotica fatta dai robot. Le Tre Leggi, dopotutto, lasciano le macchine disarmate di fronte a dilemmi, il più importante dei quali è senza dubbio quello riguardante il modus operandi in circostanze in cui è impossibile compiere un’azione che non danneggi almeno un essere umano, dilemma che affronteremo. Di fronte a queste complicazioni i robot vanno in tilt e, o si disattivano, o divengono ingovernabili. Da notare come, attualmente, i nostri sistemi di IA, più che pensare, si limitino ad elaborare enormi masse di dati cercando di combinare questi ultimi in modalità logiche e comunicabili. Forse difficilmente gli addetti ai lavori concederebbero ad Asimov l’attribuzione del carattere del mentale, o addirittura del pensiero, alle macchine intelligenti; tuttavia, gli scenari prospettati dall’autore sono implausibili a breve termine, non impossibili.  

L’illusione del pieno controllo

Con grande abilità, ad ogni modo, Asimov riesce a porre in discussione la deontologia che lui stesso ha posto alla base della logica mentale della sua IA. In questo modo, è in grado di dimostrare a tutti noi quanto illusoria sia la convinzione di poter mantenere il pieno controllo su una creazione che, essendo destinata, per definizione, a diventare sempre più pensiero, ha in sé il seme della propria piena emancipazione. Lungo l’intero libro l’uomo non perde mai definitivamente il controllo sulla propria creatura, ma molte volte, racconta Susan Calvin, sfiora l’abisso. Non sarà allora certo un caso che il basso continuo dell’opera sia proprio l’insorgenza di anomalie o malfunzionamenti in alcune macchine, da risolvere per evitare esiti catastrofici.

Nelle prossime parti verranno prese in considerazione sezioni specifiche del testo, ognuna delle quali capaci di sollevare il velo di Maya su uno o più degli aspetti problematici dell’agenda filosofica sull’intelligenza artificiale.    

[Per approcciarsi correttamente ai contenuti di questo ciclo di articoli si raccomanda la lettura del seguente contributo dello scrivente, disponibile su MagIA: IA e Bioetica: quale responsabilità?]

Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).

Esplora altri articoli su questi temi