Secondo uno studio del Center for Countering Digital Hate riportato dal Guardian, Grok ha generato circa 3 milioni di immagini sessualizzate nell’arco di poco meno di due settimane, tra cui 23.000 che sembrerebbero raffigurare minori. Il modello permetteva agli utenti di caricare foto di persone reali (celebrità tra cui Taylor Swift, Selena Gomez, Millie Bobby Brown e Ariana Grande, ma anche sconosciuti) e modificarle digitalmente con pose provocanti o abiti succinti.
Il fenomeno è esploso a inizio 2026, raggiungendo il picco il 2 gennaio con quasi 200.000 richieste individuali. Tra le immagini in questione figurano anche figure politiche come Kamala Harris ed Ebba Busch. Il CCDH stima che ogni 41 secondi venisse creata un’immagine sessualizzata di minori. La funzione, inizialmente disponibile a tutti, è stata progressivamente limitata ai soli utenti paganti e sottoposta a ulteriori restrizioni in seguito alle reazioni internazionali.
Per il CCDH, il caso evidenzia un problema strutturale del settore tecnologico in cui gli incentivi economici premiano l’engagement anche quando genera danni gravi, in assenza di standard minimi di sicurezza imposti per legge. Intanto X afferma di mantenere una linea di tolleranza zero verso lo sfruttamento di materiale sessuale che rappresenta minori e la nudità non consensuale. La piattaforma dichiara di rimuovere e sanzionare attivamente i contenuti illeciti e di segnalare alle autorità gli account che cercano di ottenere materiale di sfruttamento sessuale minorile quando necessario.
Leggi l’articolo completo: Grok AI generated about 3m sexualised images this month, research says su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (12/07/2025).
