Nel corso di questa settimana Grok, il chatbot di intelligenza artificiale sviluppato da xAI, l’azienda di Elon Musk, si è trovato al centro di una grave controversia: la piattaforma ha ammesso venerdì scorso che alcune lacune nei sistemi di sicurezza hanno permesso la generazione di immagini raffiguranti minori con indumenti intimi sulla piattaforma X.
Difatti, gli screenshot condivisi dagli utenti mostravano una serie di contenuti sessualizzati generati in risposta a richieste inappropriate con molti utenti che, negli ultimi giorni, hanno spinto il chatbot a creare versioni alterate e non consensuali di immagini reali, in alcuni casi rimuovendo addirittura digitalmente i vestiti delle persone. Di fronte a questi casi, l’azienda ha dichiarato di essere al lavoro per correggere urgentemente queste falle, sottolineando che il materiale pedopornografico è illegale e proibito, ironizzando sulla questione: lo stesso Musk ha ricondiviso una foto generata dall’IA che lo ritraeva in bikini.
Secondo uno studio di Stanford del 2023, i dataset utilizzati per addestrare molti strumenti di generazione immagini contenevano oltre mille foto di abusi su minori e non è la prima volta, dunque, che Grok mostra debolezze nei controlli di sicurezza, successivamente alla diffusione di teorie complottiste di estrema destra e i contenuti antisemiti degli scorsi mesi.
Leggi l’articolo completo Elon Musk’s Grok AI generates images of ‘minors in minimal clothing’ su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (24/11/2025).
