Questo è il secondo di quattro articoli che leggono Io, Robot di Isaac Asimov come un’agenda filosofica sull’intelligenza artificiale. Dopo le Tre Leggi, il percorso mette a fuoco il confine tra strumento e persona, per poi interrogare i limiti della logica e il rapporto tra libertà, privacy e regole. Per leggere l’intero ciclo: Parte I, Le Tre Leggi; Parte III, Cutie, limiti e pericoli della logica nell’IA; Parte IV, Herbie, la libertà e la zona d’ombra delle Tre Leggi.
Robbie e il confine tra strumento e soggetto
Il primo dei racconti di cui ci fa dono la dottoressa Calvin risale a prima del 2000, quando i robot, pur apparendo a noi lettori sofisticatissimi rispetto alla nostra IA, risultavano ancora primitivi, capaci di poche elementari funzioni, embrionali rispetto a ciò che sarebbero diventati, entità protagoniste di un’evoluzione imperiosa, della quale il testo offrirà vivide testimonianze. Quel racconto verte interamente su Robbie, un robot incapace di parlare e con funzione di babysitting.
La macchina è stata acquistata dai genitori di Gloria, una bambina di otto anni molto privilegiata che vive in un ricco quartiere leggermente distante da New York. Già da questo primo racconto si potrà apprezzare quanto abbiamo osservato nella parte precedente della nostra disamina; infatti, la vicenda di Gloria ha il merito di porci di fronte al dilemma, ad avviso di chi scrive, più importante del settore: l’IA è persona? O si tratta di mero strumento?
Dipendenza, socialità e rivalità affettiva
La giovane protagonista si affeziona in fretta al suo “nuovo amico”, al punto da farne la sua unica interazione sociale al di fuori della famiglia. Gloria trascorre le giornate giocando in giardino con Robbie, raccontandogli storie e adoperandolo come un vero e proprio diario della sua vita; nel tempo, arriva persino a sviluppare un pericoloso rapporto di dipendenza, se non addirittura di simbiosi emotiva. La madre si dimostra preoccupata, ed attraverso le sue parole è immediatamente possibile scorgere un grande tema, quello dell’impatto negativo dell’uso della tecnologia sulla dimensione sociale dell’umano: «Non ho nessuna intenzione di affidare mia figlia a un pezzo di ferro, e non mi importa di quanto sia sveglio. Non ha un’anima e chissà cosa gli passa per la testa. I bambini non sono fatti per essere tenuti d’occhio da una macchina … Si rifiuta di giocare con chiunque altro. Ci sono decine di bambini e bambine con cui dovrebbe fare amicizia, e invece no. Neanche ci si avvicina se non la costringo io. Una ragazzina non può crescere in questa maniera». La madre di Gloria ragiona apparentemente a partire dalla prospettiva che fa dell’IA, qualsiasi sia il suo livello di sviluppo, un mero strumento dell’umano, non un ente con il quale sia possibile instaurare un rapporto sentimentale tra pari. Sembra prevalentemente angustiata allo stesso modo in cui lo sarebbe qualsiasi mamma di fronte ad un figlio che resta attaccato ore ed ore ai videogiochi invece che stare all’aria aperta a socializzare. Eppure, è la sua stessa preoccupazione a tradire questa visione: evidentemente teme che Robbie si sostituisca a degli amici umani, o, peggio, a lei e suo marito. Si tratta di una preoccupazione istintiva, che rivela la percezione di quella macchina come un attore sociale a tutti gli effetti, un rivale affettivo, qualcosa di pericolosamente vicino ad una persona. Io, Robot si apre così con l’unico racconto dell’antologia in cui Asimov sembra perdere di vista l’orizzonte della macchina come strumento per affacciarsi su un mondo del tutto diverso, quello della macchina come soggetto.
Chiaramente, il ragionamento della madre di Gloria cela una impasse: lei teme che Robbie sottrarrà la sua bambina ad una normale vita sociale, ma, se esso è uno strumento, non può essere posto a confronto con gli esseri umani e quindi il rischio non esiste, poiché non c’è competizione, c’è, al massimo, un rischio di dipendenza; se esso invece è una persona, allora Gloria sta effettivamente socializzando e il problema non sussiste. Trattandosi di un romanzo, Asimov ha giustamente trascurato cavilli logici di questo tipo, cavilli che stanno invece a cuore a chi scrive, poiché capaci di mettere in risalto la ricchezza di spunti presente nel testo dell’autore russo e soprattutto la complessità del problema metaetico concernente il concetto di persona, qui nel caso dell’IA.
Che cosa significa essere persona?
Non è questa la sede per presentare dettagliatamente tale problema, quindi procederò ad un brevissimo riassunto, ovviamente non esaustivo, dello stesso. Occupandomi del tema dell’aborto, nella mia dissertazione finale in quel del Master in Bioetica dell’Università di Torino, diedi la seguente definizione di persona: «Quello status ontologico in virtù del quale l’entità a cui viene attribuito diventa passibile di essere soggetto di decisioni e condotte identificabili eticamente e, contemporaneamente, oggetto di riconoscimento e considerazioni morali da parte di altri, dotati del medesimo status ontologico, nei suoi riguardi». Si vede bene come la nozione di persona non designi tanto delle entità quanto piuttosto sia un’attribuzione di status alle entità, con importanti conseguenze morali. Se lo status viene attribuito all’ente x, questo godrà di privilegi ontologici, sociali, morali e giuridici di cui, viceversa, non avrebbe mai usufruito. E l’attribuzione implica un altro concetto importante, quello del riconoscimento. Non si vedrà mai riconosciuto lo status colui il quale non riuscirà a farsi percepire come valido candidato. Questo aspetto chiama in causa addirittura Hegel, che nella Fenomenologia dello Spirito faceva della necessità di una coscienza di farsi riconoscere da un’altra coscienza una condizione necessaria alla sua stessa ontologia.
Il riconoscimento di Gloria
Partendo da qui, ci si può chiedere: davvero Robbie è solo una macchina? O, forse, la piccola Gloria ha saputo vedere oltre? «Perché piangi, Gloria? Robbie era solo una macchina, solo un vecchio trabiccolo. [A rivolgersi alla bambina è qui la madre che, sempre più preoccupata, ha infine deciso di riportare il robot alla fabbrica per rompere il legame di dipendenza che sua figlia andava consolidando] Non era vivo! Non era mica una macchina, per niente! Strillò Gloria, furibonda e sgrammaticata. Era una persona proprio come me e come te ed era mio amico». Di fronte ad una tale manifestazione emotiva, acuita dalla garanzia di sincerità che solo i bambini sanno garantire, sorge spontaneo pensare che Robbie stia acquisendo clamorosi “punti-persona”. Infatti, viene difficile immaginare un riconoscimento più riuscito del suscitare nella coscienza del prossimo affetto ed emozioni. Tuttavia, è anche vero che ci scopriamo spesso a provare emozioni per oggetti inanimati, magari legati a ricordi, per cui il riconoscimento sembra un terreno scivoloso su cui ragionare per la personalità, anche se sicuramente interessante e promettente.
A suffragio dei nostri ragionamenti troviamo anche le parole del padre di Gloria: «Il problema di Gloria dipende dal fatto che pensa che Robbie sia una persona e non una macchina». All’interno del libro il termine persona resta chiaramente al livello semantico del senso comune, ma i due genitori affrontano, più o meno, gli stessi dilemmi che abbiamo qui tradotto con maggiore rigore filosofico-argomentativo.
La società arretra davanti ai robot
Sicuramente interessante è notare che Susan Calvin concluda il suo racconto della vicenda rammentando al giornalista come l’uso dei robot sia poi stato gradualmente vietato in ambito civile e privato, venendo relegato a scopi e contesti scientifici o spaziali…
Riferimenti utili
Fabio Calzone, Una difesa dell’aborto. I pericoli della potenzialità per la salute delle donne, Università degli Studi di Torino, Torino 2024.
Georg Wilhelm Friedrich Hegel, Fenomenologia dello spirito a cura di Enrico De Negri, RBA, Milano 2017.
Isaac Asimov, Io, Robot trad. it. a cura di Vincenzo Latronico, Mondadori, Milano 2021.
[Per approcciarsi correttamente ai contenuti di questo ciclo di articoli si raccomanda la lettura del seguente contributo dello scrivente, disponibile su MagIA: IA e Bioetica: quale responsabilità?]
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
