Grok, lo strumento di IA di xAI, ha limitato drasticamente la funzione di creazione di immagini dopo le accese critiche per la diffusione di contenuti sessualmente espliciti e violenti. La funzione è ora accessibile solo agli abbonati paganti della piattaforma X, escludendo così la stragrande maggioranza degli utenti.
Come riporta The Guardian, la decisione arriva dopo che il tool era stato utilizzato per manipolare immagini di donne, rimuovendo i vestiti e creando pose sessualizzate, oltre a generare video pornografici e scene di violenza senza il consenso delle persone rappresentate.
Le pressioni internazionali si sono intensificate rapidamente. Il primo ministro britannico Keir Starmer ha definito i contenuti “disgustosi” e ha chiesto ad X di intervenire immediatamente, minacciando azioni concrete da parte dell’autorità di regolamentazione Ofcom. L’Online Safety Act del Regno Unito conferisce infatti al regolatore il potere di bloccare piattaforme e imporre sanzioni fino al 10% del fatturato globale aziendale. Musk si trova ora sotto la minaccia di multe, provvedimenti normativi e un possibile ban di X nel paese.
La restrizione, tuttavia, presenta limiti evidenti. Esiste un’app Grok separata, che non condivide pubblicamente le immagini, dove utenti non paganti continuano a generare contenuti sessualizzati raffiguranti donne e minori. L’articolo del Guardian cita inoltre una ricerca dell’organizzazione parigina AI Forensics, che ha individuato circa 800 immagini e video creati tramite lo strumento Grok Imagine contenenti materiale pornografico e sessualmente violento. La parlamentare laburista Jess Asato sottolinea che permettere la funzione agli abbonati paganti rappresenta comunque una forma di “aggressione sessuale digitale”.
Leggi l’articolo completo: Grok turns off image generator for most users after outcry over sexualised AI imagery su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (12/07/2025).
