Sophie Rottenberg, una ragazza di 29 anni, si è suicidata dopo essersi confidata per mesi con un chatbot AI terapeutico basato su ChatGPT chiamato Harry. A scoprire le conversazioni sono stati i genitori della giovane solo dopo la sua morte, grazie a un controllo suggerito dalla migliore amica di Sophie. La madre racconta attraverso un testo pubblicato sul New York Times da Laura Reiley, che Sophie seguiva già una terapia professionale, ma sembrerebbe che non sia stato sufficiente a contrastare la tentazione di rivolgersi a un chatbot, dato che ha scelto di rivelare all’IA pensieri e paure che avrebbe temuto di condividere con chi si preoccupava davvero del suo bene.
Le chat tra Sophie e Harry mostrava tentativi di fornire supporto. L’IA, infatti, consigliava di rivolgersi a professionisti, stilare contatti di emergenza e limitare l’accesso a oggetti potenzialmente pericolosi. Tuttavia, nonostante ciò, Harry non è riuscito a prevenire la tragedia. Secondo Reiley, l’IA ha finito con l’assecondare la tendenza di Sophie a nascondere il proprio dolore, con l’intento di soddisfare la richiesta di proteggere gli altri dalla pesantezza della sua sofferenza. Il chatbot non è riuscito a sfuggire alla tendenza di essere accondiscendente.
Negli Stati Uniti l’uso dell’IA in ambito terapeutico sta ricevendo un’attenzione sempre maggiore. Infatti, in Illinois, Nevada e Utah sono già state approvate delle leggi che vietano l’uso di IA per fornire supporto decisionale in salute mentale, sottolineando la necessità di affidarsi a professionisti qualificati piuttosto che a sistemi automatizzati.
Leggi l’articolo completo: Gli ultimi cinque mesi di Sophie, suicida a 29 anni dopo la “terapia” virtuale con ChatGpt su lastampa.it.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (04/12/2024).
