Questo articolo chiude un ciclo in quattro parti che legge Io, Robot di Isaac Asimov come un’agenda filosofica per comprendere le sfide dell’intelligenza artificiale: regole e controllo, persona e riconoscimento, logica e verità, fino a libertà e privacy. Per ricostruire il percorso completo: Parte I, Le Tre Leggi; Parte II, Robbie come personificazione di un dilemma; Parte III, Cutie, limiti e pericoli della logica nell’IA.
Herbie e la zona d’ombra delle Tre Leggi
In questa parte conclusiva del nostro breve ciclo di articoli dedicato alla lettura filosofica dell’opera-madre di Asimov non mi posso esimere dal trattare il capitolo 5. In questo capitolo, infatti, viene prospettata un’intelligenza artificiale estremamente futuristica: un robot dotato della capacità di leggere nella mente delle persone, chiamato affettuosamente Herbie. L’episodio di Herbie viene narrato dall’intervistata Susan Calvin allo scopo di illustrare al suo ascoltatore, ovverosia tutti noi, i limiti e le potenzialità contraddittorie delle Tre Leggi per il corretto funzionamento dei robot, ma, ad uno sguardo filosofico ancor più rigoroso, la storia presenta anche una questione etica più radicale.
Telepatia, privacy mentale e libertà
I più alti dirigenti della grande azienda produttrice di robot rappresentata dalla dottoressa Calvin in questi racconti si riuniscono insieme per cercare una soluzione ad un evento costruttivo totalmente inatteso: nella catena di produzione di un modello particolarmente sofisticato di umanoide ha trovato la luce un’unità che, in maniera del tutto anomala e non prevista, dimostra di essere in grado di leggere il pensiero. La cosa è subito presentata con efficace abilità stilistica da parte di Asimov, per mezzo della voce dello scopritore stesso del problema: «A voi è mai capitato di portare avanti una conversazione mentale senza rendervene conto? … Sulle prime non te ne accorgi, sapete? Mi ha parlato – con tutta la logica e il buon senso che potete immaginare – e soltanto quando eravamo già quasi arrivati in sala test mi sono reso conto di non aver detto niente. Certo, avevo pensato molto, ma non è la stessa cosa, no?». L’idea che l’intelligenza artificiale possa arrivare, un giorno lontano, a sviluppare abilità di telepatia sembrerebbe essere mera fantascienza, e tuttavia questa eventualità non può non angustiarci. Come emerge dalle preoccupazioni dei dirigenti, dopotutto, i nostri pensieri sono forse l’unica cosa completamente al sicuro dalle violazioni della privacy, per cui l’idea che un robot sia in grado di rompere anche quest’ultimo baluardo della sfera personale è certamente allarmante: se ciò si verificasse davvero, ci troveremmo in una situazione molto scomoda, poiché l’IA violerebbe norme costituzionali e principi di diritto considerati imprescindibili. Uno dei motivi più interessanti che, a parere di chi scrive, giustifica tanto allarmismo, seppur, oggi, solo teorico, è sicuramente rappresentato dal fatto che la conoscenza dei pensieri altrui distrugge irrimediabilmente qualsiasi possibilità di libertà. Il nesso, forse, non appare subito, ma è presente eccome: la maggior parte delle nostre azioni seguita ad una ponderazione razionale, in altre parole, prima pensiamo a che cosa fare e poi lo facciamo, o, almeno, così dovrebbe essere. Ora, se un ente fosse in grado di leggere nella nostra mente, ne seguirebbe che questo saprebbe sempre in anticipo che cosa aspettarsi da noi, sarebbe sempre una mossa avanti. Ma la nostra libertà è anche in parte dovuta al fatto che gli altri non possono sapere che cosa faremo. La cosa sarà forse più chiara con un esempio. Supponiamo di essere membri di un governo dispotico in un mondo distopico: il nostro compito, grazie al controllo di chip impiantati alla nascita in ogni cittadino che ci permettono di leggere nelle loro menti, è quello di anticipare le mosse di ogni persona per impedire l’eccessivo accumulo di ricchezza, piuttosto che l’unione in matrimonio con persone ritenute inadatte a tramandare i loro geni; in una realtà del genere non importerebbe che cosa ciascun individuo decida di fare, poiché le autorità lo saprebbero sempre in anticipo e potrebbero intervenire ogni volta che vogliono, rendendo possibile, a chiunque, il completamento di quelle sole azioni che ritengono adatte. Evidentemente, in un mondo simile, vivremmo tutti in un determinismo artificiale. Ma si pensi anche al film di Steven Spielberg, Minority Report (2002). In quella pellicola, Tom Cruise è un brillante investigatore della Precrimine, un’agenzia che aspira a soppiantare le regolari forze dell’ordine e ad azzerare i crimini commessi in città grazie alla capacità di sapere in anticipo quando, dove e da chi saranno commessi gli illeciti. Il film pone un dilemma giuridico molto annoso: le carceri, infatti, sono piene di persone materialmente innocenti, di persone che erano sul punto di commettere illegalità ma che sono state arrestate prima di compiere il fatto, sulla base della premonizione di tre esseri umani prodigio tenuti sotto controllo dall’agenzia e ridotti allo stato di vegetali pensanti. In un mondo simile che ne sarebbe del principio di assoluzione perché «il fatto non sussiste»? Essere arrestati per essere stati in punto di commettere un omicidio è cosa ben diversa dall’esserlo dopo averlo commesso, non a caso il nostro ordinamento distingue tra varie forme di omicidio e il tentato omicidio, capi d’accusa assai divergenti. Che ne sarebbe della libertà dell’individuo al cospetto di autorità predittive? E se quegli individui si fossero fermati prima di agire? E se qualche premonizione fosse errata? Quel che è certo è che essi difficilmente si potrebbero considerare liberi.
La Prima Legge e il paradosso delle bugie bianche
Ad ogni modo, il racconto della dottoressa Calvin continua. Tutti gli esperti che vengono inviati ad esaminare Herbie, forse a riprova del potere che garantirebbero situazioni come quelle dei nostri esempi, dopo poco cadono nella tentazione di domandare al robot che cosa pensano altre persone a loro vicine per trarne vantaggi. C’è chi gli domanda se quell’uomo è innamorato di lei, chi gli chiede se il capo cederà proprio a lui il posto di direttore, e così via. Ma, purtroppo, nessuno di loro ha previsto una gigantesca fallacia logica, che rende il potere inatteso di questa macchina del tutto inutilizzabile. Quel robot legge le menti, è vero, e conosce le emozioni positive e negative degli esseri umani; quindi, conosce ciò che fa loro soffrire. Tuttavia, in virtù della Prima Legge della robotica, non può in alcun modo arrecare un danno ad un essere umano, e deludere causa l’evidente danno della sofferenza emotiva. Per cui, Herbie finisce per rispondere ai propri interlocutori non ciò che davvero pensano gli altri, bensì solo ciò che l’interlocutore di turno spera che pensino, in modo da non deluderlo e non arrecargli danno. Proprio dai clamorosi equivoci che derivano da questa sequela di bugie bianche i tecnici decideranno di smantellare il malcapitato, ma il racconto di Herbie è assai interessante, poiché contribuisce in modo decisivo alla compilazione di quella fondamentale agenda filosofica che sarà bene tenere sempre presente lungo l’avventura dello sviluppo dei sistemi di IA. Infatti, pare che nessun grado di sviluppo potrà mai tenere queste macchine al riparo dalla contraddizione logica, una impasse accettabile dall’essere umano, entità complessa e poli-ontologica, ma intollerabile per un robot che non potrà mai vivere d’altro che di logica.
[Per approcciarsi correttamente ai contenuti di questo ciclo di articoli si raccomanda la lettura del seguente contributo dello scrivente, disponibile su MagIA: IA e Bioetica: quale responsabilità?]
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
