Ogni volta che l’umanità sviluppa una nuova tecnologia, tende a utilizzarla anche come una metafora per spiegare il funzionamento del corpo umano o addirittura della mente. È necessario ricorrere a delle metafore perché la nostra comprensione del corpo e della mente è ancora limitata, e gli strumenti per studiarli direttamente sono insufficienti. Comprendere appieno la mente esaminando il cervello è ancora oggi una sfida complessa e spesso impossibile.
L’homme machine
L’uso delle metafore tecnologiche per spiegare il funzionamento del corpo umano ha radici antiche. Il filosofo francese René Descartes, nel XVII secolo, paragonava il corpo umano agli automi meccanici[1]. Nel XVIII secolo, il medico francese Julien Offray de La Mettrie estese questa analogia, paragonando non solo il corpo ma anche la mente a un orologio[2]. Nei secoli successivi, anche la macchina a vapore[3], le reti telefoniche e infine i computer e Internet sono stati utilizzati come metafore per spiegare il funzionamento del cervello e della mente.
L’IA diventa la metodologia della nuova scienza cognitiva
Con l’avvento dell’intelligenza artificiale (IA) negli anni ’60 si è fatto un passo ulteriore: la nuova tecnologia di allora è diventata il fulcro della scienza cognitiva, disciplina che studia i processi cognitivi, come il pensiero, la percezione, la memoria, il linguaggio, l’apprendimento e il ragionamento. Essa integra conoscenze provenienti da diverse discipline, tra cui psicologia, neuroscienze, filosofia, linguistica e antropologia, utilizzando l’IA come strumento comune per simulare i fenomeni della mente, poiché non possiamo studiarli direttamente osservando il cervello. In pratica, si testavano ipotesi sul funzionamento della mente riproducendo comportamenti intelligenti tramite programmi informatici. L’IA utilizzata dalla scienza cognitiva è (o meglio era) l’intelligenza artificiale simbolica, che cercava di riprodurre attraverso il computer ciò che si sapeva della mente, utilizzando ad esempio regole grammaticali e logiche. Un approccio che ha sì insegnato molto sul funzionamento della mente, ma ha portato a risultati pratici molto limitati.
La mente come processore di informazioni
Paragonare la mente a una macchina ha implicazioni profonde: suggerisce che la mente sia deterministica (ignorando fenomeni come il libero arbitrio, la coscienza, le emozioni), sia basata su regole generali, e riduce il cervello, come substrato biologico, a un ruolo secondario. Questo approccio, noto come funzionalismo, ignora l’importanza del corpo nelle esperienze mentali, riducendo la mente a un semplice processore di informazioni.
Il nuovo paradigma dell’IA: le reti neurali profonde
Con l’evoluzione della tecnologia, ci si chiede quale sarà la prossima metafora utilizzata per comprendere l’essere umano e quali saranno le implicazioni della nuova metafora.
Negli ultimi anni, le reti neurali profonde (deep neural network), una nuova forma di IA, hanno fatto enormi progressi. Queste reti, ispirate al funzionamento del cervello, apprendono autonomamente da grandi quantità di dati, senza bisogno che gli siano fornite regole esplicite. Ad esempio, non hanno bisogno delle regole grammaticali per costruire un sistema che parla o della conoscenza medica per creare un sistema diagnostico. Questa capacità rappresenta un cambiamento radicale rispetto all’IA simbolica, che richiede la rappresentazione manuale delle conoscenze.
Tecnologie come ChatGPT e altri sistemi di IA generativa, che apprendono autonomamente dai testi e immagini online, sono esempi concreti delle capacità di queste nuove IA.
Questa tecnologia, nota anche come apprendimento automatico profondo o deep learning, potrebbe offrire nuove prospettive anche sulla comprensione della mente.
Cosa si può imparare da una black box?
A prima vista, l’idea che il deep learning possa spiegare la mente potrebbe sembrare deludente, poiché le reti neurali profonde sono spesso criticate per la loro mancanza di trasparenza. A differenza della tradizionale IA simbolica, i modelli di deep learning non sono “spiegabili”, cioè non permettono di ricostruire il ragionamento che seguono nel produrre un risultato. Come possiamo quindi usare una tecnologia che non comprendiamo pienamente per spiegare il funzionamento della nostra mente?
L’Intelligenza Artificiale non ha paura del caos
Nonostante la mancanza di trasparenza, le reti neurali profonde hanno un punto di forza: la capacità di fare previsioni accurate in sistemi complessi e caotici – come, ad esempio, il meteo, la biologia, ma anche i sistemi sociali, come il traffico, la finanza, ecc. In questi sistemi molti fattori interagiscono in modi imprevedibili. Per usare le parole del meteorologo Edward Lorenz, in un sistema caotico e complesso come quello della meteorologia, «un battito di ali di una farfalla può scatenare un tornado in Texas».
Riuscendo a cogliere il contributo, se non di un battito di ali di farfalla, comunque di molti più fattori di un modello esplicito metereologico costruito da fisici specializzati, i sistemi di deep learning stanno cominciando a fare previsioni meteo più accurate. Ne abbiamo parlato in questo articolo.
Anche il nostro mondo sociale, creato dalle nostre azioni e dalla nostra cognizione, è caratterizzato da caoticità e complessità, allo stesso modo del mondo fisico e di quello biologico. La domanda di partenza diventa quindi: come può il deep learning, con la sua capacità di gestire la complessità, diventare una metafora per comprendere la nostra realtà sociale?
Quale sarà l’impatto dell’IA sull’etica?
Il filosofo americano David Weinberger nell’articolo «The Rise of Particulars: AI and the Ethics of Care»[4] prova a rispondere a questa domanda nell’ambito dell’etica.
Come Società Italiana per l’Etica dell’Intelligenza Artificiale abbiamo sostenuto dal momento della nostra fondazione che l’impatto dell’IA sarà così profondo da costringerci ancora una volta a ripensare le basi dell’etica tradizionale, così come le biotecnologie dagli anni Settanta hanno portato a rivedere i fondamenti dell’etica tradizionale.
L’IA moderna è più attenta ai particolari
Nel caso dell’IA c’è però una possibilità in più: mentre le biotecnologie hanno creato nuove problematiche etiche da affrontare (aborto, accanimento terapeutico, clonazione, ecc.), l’IA potrebbe non solo creare nuovi problemi da risolvere, ma anche offrirci possibili soluzioni.
Weinberger osserva che il successo del deep learning applicato al mondo della fisica e della biologia è dovuto al fatto che questa tecnologia permette di andare oltre i modelli tradizionali “universali” basati su formule e regole generali, verso modelli più complessi che sono capaci di tenere più in considerazione il ruolo dei “particolari”. Il filosofo prova quindi ad immaginare quale impatto potrebbe avere un approccio simile in un ambito della nostra realtà sociale: l’etica.
L’Etica della Cura come etica dei particolari
Per fare questo esperimento mentale, Weinberger cerca se l’idea di prestare attenzione ai particolari e non limitarsi a regole generali sia già apparsa nel panorama dell’etica.
Weinberger trova un parallelo con l’Ethics of Care (Etica della Cura), un approccio filosofico che pone al centro delle riflessioni etiche le relazioni interpersonali e la cura reciproca. Sviluppata da filosofe femministe negli anni ’80, questa teoria sfida le tradizionali etiche basate su principi astratti e universali, proponendo invece un’attenzione particolare ai contesti concreti e alle necessità delle persone coinvolte.
E’ stata introdotta da Carol Gilligan, una psicologa statunitense, nel suo libro In a Different Voice. Psychological Theory and Women’s Development (1982). La Gilligan parte dalla critica dell’etica della giustizia di Lawrence Kohlberg, che si basa su principi di equità e imparzialità universale, sostenendo invece che le donne tendono a ragionare moralmente in modo diverso rispetto agli uomini, dando maggiore importanza alla cura, alle responsabilità relazionali e al contesto specifico.
Nel Noddings, filosofa ed educatrice americana, ha ulteriormente sviluppato questa teoria nel suo libro Caring: A Feminine Approach to Ethics and Moral Education (1984). La Noddings sostiene che la cura, intesa come un’attività pratica e relazionale, sia fondamentale per l’etica. Sottolinea l’importanza delle relazioni affettive, dell’empatia e della responsabilità verso gli altri, evidenzia come le relazioni affettive e di dipendenza influenzino le decisioni morali, e afferma che la cura dovrebbe essere il principio guida nella moralità e nell’educazione.
Le etiche degli universali
L’Etica della Cura si distingue dalle etiche tradizionali, come l’etica deontologica di
Immanuel Kant (1724-1804) o l’utilitarismo di John Stuart Mill (1806-1873), perché non si basa su regole astratte e universali o sul calcolo delle conseguenze sul benessere collettivo. Invece sostiene che le decisioni morali dovrebbero essere guidate dalle esigenze e dalle circostanze particolari delle persone coinvolte.
Al contrario, l’etica kantiana si basa sul concetto di dovere e di imperativo categorico, che prescrive azioni che devono essere seguite indipendentemente dalle circostanze particolari, poiché si fondano su principi morali universali e assoluti: Kant ritiene che le azioni morali debbano essere determinate dalla capacità di queste di essere universalizzate, cioè che una regola morale deve essere valida per tutti allo stesso modo. La moralità deve essere guidata dalla ragione piuttosto che dalle emozioni, e soltanto le azioni fatte per senso del dovere hanno vero valore morale.
Similmente, l’utilitarismo di Mill valuta la moralità di un’azione in base al principio generale del massimo bene per il maggior numero di persone, applicato in maniera impersonale e universale. Promuove l’imparzialità come un valore morale centrale, sostenendo che le decisioni dovrebbero essere prese senza favorire nessun individuo o gruppo, ma piuttosto considerando il bene collettivo.
I legami personali alla base dell’Etica della Cura
L’Etica della Cura enfatizza l’importanza del contesto e delle specificità individuali nelle decisioni morali. Le azioni giuste possono variare a seconda delle circostanze e delle relazioni personali coinvolte. Secondo questa visione, l’imparzialità può portare a trascurare le esigenze e i bisogni particolari delle persone con cui si ha una relazione diretta (ad esempio, familiari o amici), che invece richiederebbero una maggiore attenzione e cura, riconoscendo l’importanza delle relazioni affettive e del legame specifico con gli altri. La moralità non è vista come qualcosa di astratto e separato dalle persone, ma come intimamente connessa alle dinamiche relazionali e ai bisogni degli individui coinvolti.
L’Etica della Cura attribuisce un valore positivo all’emozione, all’empatia, alla compassione e al senso di responsabilità nel processo decisionale morale: sono elementi cruciali per comprendere e rispondere adeguatamente ai bisogni degli altri. La cura non è solo un dovere razionale, ma anche un sentimento che motiva l’azione morale. Tra le differenze più rilevanti con l’etica tradizionale c’è il fatto che l’etica della cura parte dal vedere gli agenti morali non come individui che entrano in una relazione con un’altra persona, ma come esseri fondamentalmente relazionali nella loro stessa identità. Come sottolinea la filosofa Virginia Held in merito a questa idea centrale: «L’etica della cura lavora con una concezione della persona come relazionale… [Lo] scopo per le persone, nell’etica della cura, non è l’individuo isolato, autonomo e razionale della teoria morale dominante e tradizionale. È la persona che, con altre persone, mantiene alcune relazioni, ne trasforma altre e ne crea altre ancora, moralmente ammirevoli»[5].
Le regole morali sono troppo generali
Il problema è che le regole morali, che dovrebbero spiegare e guidare il comportamento morale, si concentrano su ciò che le situazioni morali hanno in comune. Invece per l’Etica della Cura un problema che potrebbe essere strutturalmente identico ad uno precedente, ma che coinvolge un diverso gruppo di persone in situazioni che differiscono anche solo in piccoli particolari, dovrà essere affrontato in maniera diversa. La filosofa americana Marta Nussbaum sostiene che non ci può essere nessuna metrica unitaria lungo la quale valutare il valore di situazioni diverse, e chiama questo fenomeno «incommensurabilità»[6]. Weinberger nota che questa caratteristica non è altro un ulteriore esempio dell’importanza della multidimensionalità in cui eccellono i modelli di deep learning.
L’IA, l’Etica della Cura, non fa semplificazioni
Dice Weinberger «sia l’Etica della Cura che i modelli di deep learning rifiutano di semplificare un caso per farlo rientrare in uno schema generale e semplice. Entrambi vogliono lasciare che le particolarità parlino, valorizzando le differenze e le contraddizioni, e facendo del loro meglio senza negare la complessità e l’umanità della situazione».
Non possiamo dimenticare, dall’altro lato, che un modello di deep learning non ha empatia, non si prende cura di nessuno. Tiene conto dei particolari solo perché questo rende il suo output più accurato e affidabile. Sappiamo inoltre dei problemi dei sistemi di deep learning nel classificare le persone, nell’assorbire i pregiudizi (bias) presenti nei dataset su cui ha appreso, dovuti anche alla mancanza di dati su alcune categorie di persone che sono ai margini di questo mondo digitalizzato.
Una lama a doppio taglio
È vero che il deep learning crea dei modelli che «non sappiamo come funzionano», non danno spiegazioni. Ma la «meticolosa attenzione del deep learning a più particolari di quanti potremmo contare o immaginare è la fonte sia del suo potere che della sua tendenza a essere inspiegabile», dice Weinberger.
La capacità del deep learning di considerare una molteplicità di fattori – i «particolari ostinati che a volte chiamiamo “il mondo reale”» – potrebbe promuovere l’accettazione di un’etica più attenta alla cura «che, attenta ai particolari, è al centro della moralità così come è al centro dell’esperienza umana stessa».
L’IA potrà un giorno supportare il nostro giudizio etico?
O addirittura in un futuro più lontano l’IA potrebbe entrare in gioco nel supportare la nostra capacità di giudizio etico per ampliare la nostra attenzione al contesto e ai particolari, uscendo dalle gabbie di regole troppo generali. Conclude Weinberger: «La multidimensionalità dei modelli di deep learning – la loro capacità di mettere in relazione i dati attraverso un vasto numero di tipi di connessioni – potrebbe persino aiutarci a riconoscere la complessità intersezionale delle ingiustizie subite da chi appartiene a diversi gruppi emarginati».
Ci troveremo di fronte a decisioni etiche ma inspiegabili?
Potremmo trovarci di fronte quindi a sistemi IA con una più ampia capacità di comprensione dei problemi etici, ma che non sono in grado di spiegare completamente la moralità delle loro decisioni.
[1] Renato Cartesio, «Discorso sul metodo» (1637): «Il che non sembrerà per nulla strano a coloro che sapendo quanti diversi automi, o macchine semoventi, può costruire l’industria umana, e con pochissimi pezzi, … considereranno questo corpo come una macchina fatta dalle mani di Dio», ma solo il corpo, per lui l’anima è un’altra storia.
[2] Con Julien Offray de La Mettrie nell’«Uomo macchina» (1747) anche la mente (o l’anima come la si definiva al tempo) diventa un meccanismo: “Occorre altro per provare che l’uomo non è che un animale, ossia un insieme di molle che si caricano tutte le une con le altre senza che si possa dire da quale punto del cerchio umano la natura abbia cominciato? Se queste molle differiscono tra loro non è che per la sede o per il grado di forza, e mai per la loro natura: e di conseguenza l’anima non è che un principio di movimento, o una parte materiale sensibile del cervello che si può, senza tema di errore, considerare come una molla principale di tutta la macchina (…) Il corpo non è che un orologio, di cui il nuovo chilo è l’orologiaio».
[3] Ad esempio, nei fumetti gli stati psicologici come la rabbia vengono raffigurati attraverso la metafora di una macchina a vapore sotto pressione.
[4] Weinberger, D. The Rise of Particulars: AI and the Ethics of Care. Philosophies 2024, 9, 26.
[5] Held, V. The Ethics of Care; Oxford University Press: Oxford, UK, 2006.
[6] Nussbaum, M. Love’s Knowledge; Oxford University Press: Oxford, UK, 1990.
