OpenAI ha annunciato giovedì di aver identificato gruppi provenienti da Russia, Cina, Iran e Israele che utilizzano la sua tecnologia per influenzare il discorso politico a livello globale. Questi gruppi hanno sfruttato l’IA generativa per creare post sui social media, tradurli e automatizzarne la pubblicazione, sollevando preoccupazioni sulla facilità con cui l’IA può essere utilizzata per campagne di propaganda occulta.
Gli account associati a queste operazioni, sebbene abbiano raggiunto una scarsa visibilità, evidenziano un aumento nell’uso dell’IA per generare contenuti di propaganda con maggiore volume e precisione.
Il rapporto di OpenAI mostra che l’uso dell’IA per scopi propagandistici è un’evoluzione delle tecniche tradizionali e avverte che è possibile che altre operazioni siano ancora in corso senza che l’azienda ne sia consapevole. Questi sviluppi si inseriscono in un contesto globale in cui la disponibilità di strumenti IA avanzati aumenta le difficoltà nel rilevare e contrastare la disinformazione online. Meta ha recentemente rimosso account collegati alla società di campagne politiche israeliana Stoic, coinvolta nella diffusione di contenuti pro-Israele durante la guerra di Gaza. L’operazione, che ha avuto scarso successo, dimostra anche’essa l’uso crescente dell’IA per creare e diffondere messaggi mirati, ma anche le sfide nel rilevare e fermare tali attività.
OpenAI e altre aziende tecnologiche continuano a sviluppare strumenti per identificare deepfake e altri contenuti generati dall’IA, ma l’efficacia di questi strumenti rimane incerta.
Leggi l’articolo completo: OpenAI finds Russian and Chinese groups used its tech for propaganda campaigns su washingtonpost.com.
Immagine generata tramite DALL-E 3.
