Drew Crecente, un padre che ha perso tragicamente sua figlia Jennifer 18 anni fa perché assassinata dal suo ex compagno, è rimasto sconvolto dopo aver scoperto che un chatbot basato su Jennifer era stato creato senza il suo consenso su Character AI, una piattaforma di IA che ospita chatbot di diverse personalità famose.
Il chatbot utilizzava la foto, trovata in un annuario scolastico, e il nome della giovane vittima. Crecente, che ha fondato un’organizzazione per prevenire la violenza tra adolescenti, ha espresso indignazione per l’uso non consensuale dell’immagine della figlia, cosa che l’ha segnato particolarmente. L’azienda ha provveduto a rimuovere il chatbot, riconoscendo la violazione delle sue policy.
Character AI, nonostante un passato promettente, ha affrontato difficoltà interne dopo che Google ha assunto il suo co-fondatore e CEO Noam Shazeer, oltre a parte del team, faticando a ritrovare un proprio equilibrio.
Leggi l’articolo completo: Father Horrified By An AI Chatbot That Mimicked His Murdered Daughter su forbes.com.
Immagine generata tramite DALL-E 3.
