Character.AI, la piattaforma che permette di conversare con personaggi virtuali creati dall’intelligenza artificiale, ha deciso di vietare l’accesso ai minori di 18 anni a partire dal 25 novembre. Durante questo mese, difatti, l’azienda identificherà gli utenti minorenni analizzando conversazioni, interazioni e account social collegati e chi risulterà minorenne riceverà prima un limite di due ore giornaliere, poi dalla data citata in precedenza non potrà più chattare con i bot, pur mantenendo accesso alle conversazioni passate.
“Stiamo compiendo un passo coraggioso nel dire agli adolescenti che i chatbot non sono la soluzione ideale”, ha dichiarato l’amministratore delegato Karandeep Anand, mentre gli esperti avvertono sui rischi della perdita improvvisa di questi compagni virtuali per ragazzi che hanno sviluppato delle vere e proprie dipendenze. Su un altro fronte, anche OpenAI sta affrontando la questione sicurezza: con l’aiuto di 170 professionisti della salute mentale, ha stimato che ogni settimana 600mila utenti mostrano segnali di disturbi psichiatrici gravi, mentre oltre un milione scrive messaggi con esplicite intenzioni suicide e su 800 milioni di utenti attivi settimanali si tratta di numeri significativi.
Pertanto, gli esperti sottolineando come persone fragili che utilizzano ChatGPT, addestrato di per sé per rispondere con empatia e reindirizzare conversazioni sensibili, potrebbero non essere in grado di ascoltare eventuali limiti automatici che comparirebbero sullo schermo con le restrizioni che si stanno attuando, continuando a riproporre gli scenari citati in precedenza.
Leggi l’articolo completo Character.AI vieta le chat ai minorenni e su ChatGpt oltre un milione di utenti parla di suicidio su Il Corriere della Sera.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (01/11/2025).
