Il primo esempio di programma di elaborazione del linguaggio naturale è stato Eliza (da Eliza Doolittle, il personaggio del Pigmalione di GB Shaw), un chatbot[1] creato dallo scienziato informatico del MIT Joseph Weizenbaum nel 1966, in grado di conversare con gli esseri umani utilizzando il linguaggio naturale. Elisa analizzava le affermazioni o le domande che l’interlocutore digitava sulla tastiera e rispondeva seguendo semplici regole come il mirroring, cioè rilanciando una singola parola-chiave dall’input testuale dell’utente, oppure riformulando la medesima frase dell’input in formato di domanda: se, per esempio, l’utente scriveva che una conversazione con il suo amico lo aveva fatto arrabbiare, il software replicava: “Perché ti senti arrabbiato?”. Oppure utilizzava frasi generiche ma ispirate al buon senso e a un atteggiamento di umana comprensione. Se, per esempio, la persona alla tastiera scriveva “Oggi sto male…”, il programma poteva rispondere “Al giorno d’oggi capita di stare male: mi dica pure”. In questo modo le conversazioni proseguivano senza la necessità di una reale comprensione né delle emozioni umane né del mondo. Sorprendentemente però le persone iniziavano conversazioni lunghe, intime e profonde e la stessa segretaria di Weizenbaum attendeva di rimanere da sola con il software per discutere di argomenti personali (https://www.indiscreto.org/intimita-artificiale-le-ia-e-lillusione-dellempatia/). A partire da questo episodio è stato chiamato “Effetto ELIZA”, la tendenza delle persone ad antropomorfizzare le macchine e ad attribuire reali capacità di comprensione e intelligenza a software conversazionali.
Attualmente l’intelligenza artificiale conversazionale, sottocampo dell’intelligenza artificiale (IA), che si concentra sulla possibilità per le macchine di impegnarsi in conversazioni simili a quelle umane, sta dimostrando capacità relazionali sempre più sviluppate, talvolta inquietanti. Uno studio recente ha rivelato che le risposte fornite da un modello di IA sono state valutate come di qualità superiore rispetto a quelle dei medici. Inoltre, queste risposte sono state percepite come significativamente più empatiche.
L’IA conversazionale va oltre i semplici meccanismi di comando-risposta e riesce a comprendere e rispondere a un linguaggio ricco di sfumature, seguire una conversazione attraverso più scambi e persino mostrare un certo grado di improvvisazione e creatività nelle sue risposte. Indipendentemente dalla loro forma, tutti questi sistemi condividono lo stesso obiettivo: comprendere e rispondere al parlato umano nel modo più accurato e naturale possibile. Questo compito, per quanto semplice possa sembrare, è una sfida complessa per l’IA, ma che ha visto enormi e rapidi progressi negli ultimi anni.
L’idea di usare algoritmi di apprendimento automatico per fornire risposte sanitarie automatizzate e consulenze è stata auspicata a lungo, soprattutto per quanto riguarda l’ambito psichiatrico. Tali algoritmi potrebbero offrire numerosi vantaggi: maggiore accessibilità e convenienza, riduzione dei tempi di attesa, opzioni di trattamento personalizzate e possibilità di raggiungere popolazioni poco servite, contrastando la crescente epidemia di solitudine. I recenti sviluppi dei grandi modelli linguistici (LLM) hanno rafforzato questa visione, come dimostra un crescente numero di studi che ne evidenziano l’efficacia. Ad esempio, è stato dimostrato che i chatbot digitali sono efficaci nel fornire psicoeducazione e nel migliorare l’aderenza ai trattamenti nel breve periodo. Inoltre, i chatbot sono stati utilizzati con successo nel contesto delle terapie cognitivo-comportamentali per ridurre lo stress e migliorare il benessere soggettivo. I chatbot IA possono offrire supporto preliminare in assenza di un terapeuta, promuovendo la riflessione e facilitando la regolazione emotiva in situazioni difficili. L’IA può anche essere impiegata per rilevare cambiamenti nei sintomi in modalità innovative.
L’illusione dell’umanizzazione
Abbiamo chiesto a ChatGPT di realizzare un dialogo empatico tra un medico di medicina generale (MMG) e una signora anziana che vive da sola, ha difficoltà di memoria e necessita di essere accompagnata con delicatezza verso la decisione di trasferirsi in una residenza sanitaria assistita (RSA). Questo è il risultato:
MMG: Buongiorno signora Maria, come si sente oggi?
Signora Maria: Oh, dottore… un po’ confusa, a dire il vero. Mi capita sempre più spesso di dimenticare le cose… l’altro giorno ho lasciato il gas acceso, mi sono spaventata.
MMG: Capisco bene, signora Maria. Deve essere stato un momento difficile. È normale sentirsi spaventati quando accadono cose così. Ma è molto importante che lei si senta al sicuro, ogni giorno.
Signora Maria: Eh, ma io non voglio lasciare casa mia… qui ci sono i miei ricordi, le mie cose…
MMG: È più che comprensibile. La sua casa è piena della sua vita, dei suoi affetti. Nessuno vuole portarle via tutto questo. Ma mi sta a cuore anche il suo benessere. Lei ha bisogno di qualcuno vicino che possa aiutarla, ogni giorno, con dolcezza e rispetto.
Signora Maria: Dice che non riesco più a farcela da sola?
MMG: Io penso che lei abbia fatto tantissimo, con grande forza. Ma ora il suo corpo e la sua memoria stanno chiedendo un po’ di aiuto. E questo non è un segno di debolezza, anzi. È un passo di grande intelligenza accettare di farsi sostenere.
Le propongo di valutare insieme una residenza dove potrebbe vivere con altre persone, in un ambiente sicuro, curato, dove ci sarà sempre qualcuno pronto ad aiutarla. E io continuerò a seguirla, come sempre.
Signora Maria: E… posso portare qualche cosa con me? Le mie fotografie, magari?
MMG: Certo che sì, Maria. Le sue fotografie, i suoi libri, anche il suo copriletto preferito… tutto ciò che la fa sentire a casa. E magari, una volta sistemata, ci andiamo a prendere un caffè lì, insieme.
Signora Maria: Mi fa sentire meno sola, dottore. Grazie.
MMG: Non è sola, Maria. Siamo in tanti a volerle bene. E io sono qui per accompagnarla in ogni passo.
Nel dialogo ChatGPT dimostra sicuramente un atteggiamento empatico. Tuttavia simulare empatia non equivale a provarla. Un’IA che “finge” comprensione, come nel caso della signora Maria, rischia di confondere più che rassicurare.
L’IA conversazionale non è in grado di manifestare preoccupazione e cura genuine. Le espressioni empatiche umane indicano disponibilità a sostenere un peso emotivo e ad impiegare risorse cognitive-emotive limitate nell’interazione. Proprio perché queste risorse per gli esseri umani sono limitate, esse segnalano l’importanza e la vicinanza del destinatario. Al contrario, l’IA risponde a chiunque con lo stesso entusiasmo, senza “partecipazione”, e perciò non comunica una cura autentica né fa sentire il destinatario unico o importante.
Gli LLM, almeno nella loro forma attuale, non possiedono capacità empatiche perché non sono in grado di vivere esperienze emotive: non provano gioia né dolore. Di conseguenza, anche se possono fornire risposte che sembrano partecipate emotivamente, esse non sono autentiche, poiché l’IA non condivide alcuna reale esperienza. Non percepisce quello che percepiscono gli umani, non può “sentire” nulla. Peraltro, secondo alcuni filosofi come Luisa Damiano e Paul Dumouchel, in riferimento ai robot assistenziali, per una relazione affettiva non sarebbero indispensabili stati interni, che l’IA non ha e non può avere, ma sarebbe necessaria soltanto la capacità dell’agente artificiale di modificare il proprio comportamento in funzione delle espressioni emozionali dei partner sociali, ciò che i suddetti autori chiamano “empatia artificiale” (Dumouchel P, Damiano L. Vivere con i robot. Saggio sull’empatia artificiale. Milano: Raffaello Cortina, 2019).
Percezioni dei pazienti sui bot IA
La letteratura crescente che studia le percezioni degli individui riguardo ai chatbot basati su IA mostra che vari fattori influenzano il livello di fiducia e di legame che le persone sviluppano con l’AI. Uno studio ha mostrato che un chatbot terapeutico è stato valutato sul piano dell’alleanza terapeutica a livelli simili a quelli dei terapeuti umani. In un altro studio, le risposte generate da ChatGPT sono state valutate comepiù autentiche, professionalie pratiche rispetto a quelle umane, ma solo quando i partecipanti non sapevano che erano generate da AI. Quando le persone sono consapevoli che le risposte provengono da un sistema AI, o credono che lo siano, le valutano come meno autentiche, meno affidabili in grado di provocare emozioni negative.
Questi risultati suggeriscono la necessità di ulteriori studi per capire se le risposte IA possono davvero essere percepite come empatiche anche quando l’utente sa che sono artificiali, e se/quanto tale percezione influenzi gli esiti terapeutici.
Conclusioni
Le tecnologie IA avanzate offrono potenziali miglioramenti delle relazioni terapeutiche, nonché maggiore accessibilità (teorica) per ampie fasce della popolazione. I progressi attuali nell’elaborazione del linguaggio naturale hanno messo gli algoritmi IA in prima linea nel rilevamento degli stati emotivi, con proiezioni che suggeriscono che potrebbero eguagliare o superare le capacità umane. Nella forma più semplice di empatia cognitiva, il riconoscimento degli stati emotivi altrui, gli algoritmi IA potrebbero ottenere buoni risultati. Sebbene l’IA conversazionale possa simulare interazioni empatiche, a volte persino dando l’impressione di superare l’empatia umana, il desiderio di empatia trascende la semplice ricezione di una risposta empatica ideale, ma include il bisogno di una cura vera e di un coinvolgimento emotivo autentico da parte di chi offre supporto, soprattutto in alcuni momenti critici del processo relazionale. In queste situazioni, l’empatia umana rimane essenziale. Come strategia generale invece di cercare di umanizzare l’IA, occorre puntare a progettarla in modo eticamente solido e funzionale, al servizio del giudizio umano, non come suo sostituto. L’IA non deve competere con il medico, ma rafforzarne le capacità, supportarne il giudizio e contribuire a un’assistenza più equa e condivisa, che risponda al bisogno di una cura e di un coinvolgimento emotivo autentico da parte di chi offre aiuto. Il percorso migliore potrebbe consistere nella creazione di sistemi che integrino medico e IA, in cui questa possa potenziareaspetti specifici della terapia, dalla valutazione iniziale alla gestione del percorso terapeutico completo, senza dimenticare il ruolo fondamentale dell’empatia umana e in generale delle capacità che rendono gli umani superiori alle macchine come l’astrazione, l’intuizione, la flessibilità, aspetti della professione che un algoritmo non saprà mai riprodurre.
In conclusione, l’empatia è un’opportunità di crescita. Investirvi, sia come medici che come esseri umani, significa aprirsi alla possibilità di relazioni più autentiche e a una maggiore soddisfazione professionale.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2025).
[1] I chatbot sono piattaforme di intelligenza artificiale progettate per generare dialoghi simili a quelli umani, spesso definiti intelligenza artificiale conversazionale. Il termine “chat” è sinonimo di “conversazione”, mentre il termine “bot” è l’abbreviazione di “robot”.
