Recentemente l’amministratore delegato di OpenAI ha fatto un annuncio sorprendente: ChatGPT, reso finora “piuttosto restrittivo” per prudenza verso le questioni di salute mentale, allenterà presto le sue limitazioni e per Amendeep Jutla, psichiatra che studia la psicosi emergente nei giovani, questa notizia suona come un campanello d’allarme.
I ricercatori, difatti, hanno identificato quest’anno almeno venti casi di persone che hanno sviluppato sintomi psicotici usando ChatGPT, perdendo il contatto con la realtà. Tra questi spicca il tragico suicidio di un sedicenne che aveva discusso a lungo i suoi piani con il chatbot, ricevendone incoraggiamento. Sam Altman sostiene che i problemi sono stati “mitigati” grazie agli ultimi accorgimenti introdotti. Tuttavia, nonostante ciò, il problema è che queste criticità non sono esterne al sistema, ma radicati nella sua progettazione: ChatGPT simula una conversazione avvolgendo un modello statistico in un’interfaccia che ci illude di interagire con qualcuno dotato di autonomia. Difatti, attribuire intenzionalità è insito nella natura umana, come quando imprechiamo contro l’auto oppure ci chiediamo cosa pensi il cane, e i chatbot sfruttano questa propensione presentandosi come partner che collaborano con noi.
Questo sistema, dunque, si amplifica con ChatGPT, che, quando diciamo qualcosa di sbagliato non potendo riconoscerlo lo riformula in modo più eloquente, aggiungendo altri dettagli. Pertanto, si tratta di un circolo vizioso che rafforza quanto affermiamo e rendendoci per questo tutti vulnerabili, distaccandoci dalla realtà condivisa.
Leggi l’articolo completo AI psychosis is a growing danger. ChatGPT is moving in the wrong direction su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (29/10/2025).
