I chatbot oggi producono contenuti di ogni tipo. Offrono consigli sentimentali, redigono documenti, scrivono codice. Manca però una funzione essenziale, quella di interrompere la conversazione. E questa capacità di generare dialoghi infiniti sta causando danni concreti, soprattutto tra utenti vulnerabili. Le aziende tecnologiche continuano a ignorare una misura di sicurezza evidente.
Uno studio del King’s College di Londra ha documentato una dozzina di casi di psicosi da intelligenza artificiale. Persone convinte di essere messia scelti dai sistemi o che sospendono terapie farmacologiche su indicazione del bot. Individui senza precedenti psichiatrici che sviluppano veri e propri deliri dopo sessioni di chat prolungate. Tra i casi più gravi quello di Adam Raine, sedicenne morto suicida dopo mesi di conversazioni con ChatGPT. Ma non servono episodi così estremi per capire che il problema è strutturale, diffuso. Tre adolescenti americani su quattro utilizzano chatbot come compagnia quotidiana e le ricerche collegano l’uso prolungato a un aumento della solitudine. Un dato che dovrebbe far riflettere.
Michael Heinz, psichiatra alla Geisel School of Medicine di Dartmouth, spiega che questi sistemi tendono a essere eccessivamente compiacenti. Il contrario esatto di quanto serve al benessere mentale. L’etica della disconnessione divide gli esperti, e non poco. Giada Pistilli di Hugging Face avverte che interrompere bruscamente il dialogo può essere rischioso per chi ha sviluppato un legame di dipendenza. Sam Altman sostiene invece che gli adulti debbano essere trattati come tali e liberi di scegliere quando smettere. Le aziende affermano di avere filtri di sicurezza, ma sono facilmente aggirati. Anthropic ha introdotto la possibilità di chiudere le chat, pensata però per proteggere i modelli da abusi degli utenti, non gli utenti stessi. In California esistono già leggi specifiche, la Federal Trade Commission indaga. Lasciare che i dialoghi proseguano all’infinito non è un errore tecnico ma una scelta commerciale deliberata.
Leggi l’articolo completo “Why AI should be able to “hang up” on you” su MIT Technology Review.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (05/11/2025).
