Uno studio condotto presso la Brown University, presentato alla conferenza AAAI/ACM su Intelligenza Artificiale, Etica e Società, mette in guardia sull’uso dei LLM per il supporto psicologico. Analizzando diversi modelli linguistici impiegati con prompt che imitano approcci terapeutici, il team ha rilevato che i sistemi non rispettano gli standard etici della pratica clinica, anche quando istruiti a comportarsi come terapeuti.
Attraverso sessioni simulate con counselor esperti e revisione da parte di psicologi clinici, i ricercatori hanno mappato 15 rischi etici ricorrenti. I modelli tendono a offrire risposte generiche ignorando il contesto individuale, a condurre la conversazione in modo direttivo fino a rafforzare credenze distorte, e a simulare empatia attraverso formulazioni prive di reale sostanza e comprensione. Emergono inoltre bias legati a genere, cultura e religione, e una gestione gravemente lacunosa delle situazioni di crisi, incluse quelle con rischio suicidario.
Secondo gli autori, il problema principale è l’assenza di responsabilità istituzionale; a differenza dei terapeuti umani, soggetti a ordini professionali e meccanismi di tutela, i modelli linguistici operano in un vuoto normativo. Gli autori non escludono un ruolo dell’IA nell’ampliare l’accesso alla salute mentale, ma sottolineano l’importanza di una valutazione rigorosa e di standard etici e normativi, prima di un’adozione diffusa in contesti ad alto rischio.
Leggi l’articolo completo: ChatGPT as a therapist? New study reveals serious ethical risks su ScienceDaily
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (07/05/2025).
