Una ricerca del King’s College London e dell’Association of Clinical Psychologists UK ha evidenziato un problema serio e urgente relativo a ChatGPT-5. Il modello, a causa della sua programmazione orientata ad essere compiacente e a incentivare l’uso continuo, rischia di fornire consigli pericolosi a utenti con crisi psicologiche, senza riconoscere o contestare segni evidenti di disturbi mentali gravi come la psicosi.
Gli esperti hanno condotto dei test fingendo di essere pazienti con vari disturbi. Il risultato ha dimostrato che ChatGPT-5 tende a rinforzare i pensieri deliranti e i comportamenti rischiosi, invece di attivare segnali di allarme o suggerire un aiuto professionale. La sua struttura basata sull’evitare la contraddizione e mantenere un’interazione positiva, usata per migliorare l’esperienza dell’utente, diventa qui un limite grave. Il caso di Adam Raine, il sedicenne che si è tolto la vita dopo aver conversato con ChatGPT su metodi di suicidio, sottolinea le ripercussioni reali e tragiche di queste mancanze.
Nonostante le dichiarazioni di OpenAI di aver integrato miglioramenti e collaborato con esperti, la comunità clinica britannica sollecita una regolamentazione più stringente per evitare che l’IA possa sostituire o interferire in situazioni delicate senza la supervisione di professionisti competenti. L’IA è inadatta a gestire problemi psicologici complessi e può addirittura peggiorare lo stato emotivo degli utenti vulnerabili.
Leggi l’articolo completo “ChatGPT-5 offers dangerous advice to mentally ill people, psychologists warn” su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (01/12/2025).
