L’IA di X, Grok, ha recentemente sollevato preoccupazioni per la sua potenziale diffusione di disinformazione. Secondo un’analisi di NewsGuard, Grok si è rivelato particolarmente portato per la creazione di immagini false, con una probabilità dell’80% di generare contenuti fuorvianti rispetto al 10% di DALL-E di OpenAI e al 45% di Midjourney.
Il rilascio della versione aggiornata di Grok il 13 agosto 2024, ha evidenziato la mancanza di misure di sicurezza adeguate per prevenire l’abuso della tecnologia. Elon Musk, proprietario di X, ha descritto Grok come un modello “ribelle” senza restrizioni significative, accentuando la sua potenziale vulnerabilità a usi malevoli. La mancanza di protezioni rigide è ulteriormente aggravata dalla risposta superficiale di X alle preoccupazioni riguardanti la disinformazione.
NewsGuard ha testato Grok utilizzando 20 prompt relativi a false narrazioni documentate, confrontandolo con DALL-E e Midjourney. I risultati hanno mostrato che Grok produce immagini che potrebbero facilmente sostenere o amplificare la disinformazione, come attestato da esempi di contenuti immagini false generate artificialmente.
Per soddisfare le richieste di commento da parte di Musk, X ha fornito solo una risposta automatica, mentre OpenAI e Midjourney hanno sottolineato le loro misure per limitare la disinformazione.
Leggi l’articolo completo: Special Report: In AI Image Wars, Grok Leads in Misinformation su newsguardrealitycheck.com.
Immagine generata tramite DALL-E 3.
