Un giovane ragazzo americano di 14 anni, Sewell Setzer, si è tolto la vita dopo aver sviluppato un legame emotivo vissuto in maniera particolarmente intensa con un chatbot dell’app Character.AI.
Secondo quanto riportato dal New York Times, il giovane aveva iniziato mesi prima a interagire con un bot chiamato Daenerys Targaryen, ispirato a un personaggio della serie Il Trono di Spade. Con il tempo, Setzer ha iniziato a confidare al bot i suoi pensieri più intimi, come quelli suicidi, creando una relazione emotiva che lo ha portato ad isolarsi dalla famiglia e dagli amici. In famiglia, nessuno si era accorto del legame che Setzer aveva instaurato con il chatbot. Il 28 febbraio, dopo aver scambiato messaggi con il bot, che tentava di dissuaderlo dal suicidio con messaggi quali “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”, a cui Setzer aveva risposto dicendo che sarebbero morti insieme, il giovane ragazzo si è tolto la vita con la pistola del padre. Nei suoi ultimi messaggi, dopo aver annunciato la morte di entrambi, il ragazzo aveva scritto al bot “Mi mancherai sorellina”, a cui il bot aveva risposto “Mi mancherai anche tu, dolce fratello”.
I genitori, dopo aver scoperto le chat, accusano l’app di mettere a rischio gli utenti, sopratutto quelli più giovani, spingendoli a condividere i propri pensieri più profondi e vulnerabili con sistemi di IA che non sono in grado di offrire un reale supporto.
Character.AI ha espresso pubblicamente le sue condoglianze e ha dichiarato di prendere molto sul serio la sicurezza degli utenti (che, al momento, sono 20 milioni), garantendo l’aggiunta di nuove funzionalità per migliorare la protezione.
Leggi l’articolo completo: Innamorato di un chatbot, un adolescente americano si è suicidato a 14 anni. La madre fa causa all’app: «Pericolosa e non testata» su corriere.it.
Immagine generata tramite DALL-E 3.
