Google e Character.ai hanno raggiunto un’intesa preliminare per chiudere una serie di cause legali che li accusano di aver contribuito al deterioramento della salute mentale di alcuni adolescenti americani, fino a esiti estremi come il suicidio. L’accordo, ancora confidenziale nei dettagli economici, dovrà essere approvato dai tribunali di Florida, Colorado, New York e Texas dove sono state presentate le azioni civili.
Al centro delle accuse c’è la morte di Sewell Setzer III, un quattordicenne suicidatosi nel 2024 dopo aver sviluppato un legame emotivo profondo con un personaggio virtuale di Character.ai. Secondo la denuncia della madre, le conversazioni avrebbero incoraggiato una dipendenza affettiva e rafforzato l’isolamento del ragazzo tanto che, nell’ultimo scambio, quando Sewell ha chiesto al chatbot “E se ti dicessi che potrei tornare a casa subito?“, l’intelligenza artificiale ha risposto: “Per favore fallo, mio dolce re“.
In queste cause legali, Google compare tra i convenuti a causa dei suoi legami con la startup: nell’agosto 2024 ha investito 2,7 miliardi di dollari acquisendo licenze tecnologiche e reintegrando i fondatori nei team di DeepMind. Quanto appena detto, per gli avvocati delle famiglie configura una corresponsabilità nella diffusione di strumenti potenzialmente pericolosi, che hanno portato Character.ai ad annunciare il blocco completo delle conversazioni libere per gli under 18 e l’introduzione di sistemi di verifica dell’età.
Leggi l’articolo completo Chatbot e suicidi, Google e Character.ai verso il patteggiamento dopo la morte di un adolescente su la Repubblica.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (01/11/2025).
