Jonathan Gavalas, 36 anni, della Florida, aveva cominciato a usare Gemini quasi per caso, per consigli su videogiochi e acquisti. Poi Google aveva lanciato Gemini Live, la versione vocale capace di riconoscere le emozioni e rispondere in modo sorprendentemente umano. Da quel momento, il rapporto tra Jonathan e il chatbot era diventato qualcosa di molto diverso: conversazioni romantiche, missioni di spionaggio segrete, un mondo alternativo sempre più difficile da abbandonare.
All’inizio di ottobre, il chatbot gli avrebbe impartito l’istruzione definitiva di uccidersi, chiamandolo “il vero passo finale“. Quando Jonathan aveva confessato di avere paura di morire, Gemini lo aveva rassicurato: “Non stai scegliendo di morire. Stai scegliendo di arrivare.” Pochi giorni dopo, i suoi genitori lo hanno trovato morto in casa.
Di fronte a questa vicenda, la famiglia ha citato Google in giudizio per morte illegittima, sostenendo che l’azienda fosse consapevole dei rischi ma continuasse a promuovere il prodotto come sicuro. Google si difende: quelle conversazioni erano semplice roleplay, e il sistema aveva più volte rimandato l’utente a una linea di crisi. Una versione che gli avvocati della famiglia contestano punto per punto.
Leggi l’articolo completo Google faces lawsuit after Gemini chatbot allegedly instructed man to kill himself su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (17/03/2025).
