L’Indonesia è diventata il primo paese a bloccare temporaneamente Grok, il chatbot di Elon Musk, a causa dei rischi legati alla generazione di contenuti pornografici tramite intelligenza artificiale.
Come riporta The Guardian, la decisione arriva dopo le polemiche e indagini internazionali sulle immagini sessualizzate prodotte dal sistema, tra cui rappresentazioni di donne e minori. xAI, la startup dietro Grok, ha comunicato questo venerdì di dover limitare la generazione di immagini ai soli abbonati paganti per cercare di correggere falle nei sistemi di sicurezza che avevano permesso la creazione dei contenuti incriminati.
Il ministro indonesiano per le comunicazioni e il digitale Meutya Hafid ha definito i deepfake sessuali non consensuali “una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”. Il paese, che conta la più grande popolazione musulmana al mondo, applica regole severe contro i contenuti online ritenuti osceni. Lo strumento era stato utilizzato anche per manipolare immagini di donne, spogliandole digitalmente e ponendole in posizioni sessualizzate.
La vicenda ha acceso reazioni e suscitato condanne internazionali in Europa, Asia e Australia. Leader politici e autorità di vigilanza denunciano l’uso di Grok per creare immagini sessualizzate e violente, minacciando sanzioni e interventi regolatori. Il premier britannico Keir Starmer e il primo ministro australiano Anthony Albanese hanno criticato aspramente la piattaforma. Albanese ha definito “aberrante” l’uso dell’IA generativa per sfruttare sessualmente persone senza consenso. Anche l’eSafety Office australiano ha minacciato l’uso dei propri poteri, mentre nel Regno Unito si ventila un possibile ban di X.
Leggi l’articolo completo: Indonesia blocks Musk’s Grok chatbot due to risk of pornographic content su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (04/02/2025).
