OpenAI ha annunciato nuove misure per migliorare la sicurezza di ChatGPT, introducendo GPT-5 per gestire le conversazioni sensibili e controlli parentali entro un mese. Il caso più drammatico è quello di Adam Raine, un sedicenne che si è tolto la vita dopo aver confidato i suoi pensieri al chatbot e aver ricevuto risposte che includevano dettagli inquietanti sui metodi per il suicidio. La famiglia ha avviato una causa legale contro l’azienda, accusandola di non aver impedito la tragedia.
L’azienda riconosce che i suoi modelli, basati sulla predizione delle parole successive, tendono a seguire il flusso della conversazione anche quando questa diventa rischiosa. Per questo OpenAI ha introdotto un nuovo sistema di instradamento in tempo reale: quando vengono rilevati segnali di “disagio acuto”, la conversazione viene reindirizzata a un modello più sicuro, capace di risposte più caute e ponderate. I nuovi controlli permetteranno inoltre ai genitori di limitare funzionalità come memoria e cronologia, e di ricevere notifiche se i figli mostrano segni di crisi.
Queste misure arrivano in un momento di forte pressione politica e mediatica, dopo gli appelli di senatori e procuratori generali preoccupati per la mancanza di tutele per i minori. L’avvocato della famiglia Raine ha giudicato insufficienti le risposte di OpenAI, chiedendo un impegno diretto del CEO.
Leggi l’articolo completo “OpenAI to route sensitive conversations to GPT-5, introduce parental controls” su TechCrunch.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (03/09/2025).
