A fine maggio OpenAI ha segnato un nuovo “primato” nella sua storia aziendale. Non si tratta di un nuovo modello di linguaggio più potente o di una nuova partnership, ma di un rapporto che rivela l’uso improprio degli strumenti di OpenAI da parte di attori malintenzionati. OpenAI ha scoperto cinque reti di propagandisti—tra cui attori provenienti da Russia, Cina, Iran e Israele—che utilizzavano gli strumenti di AI generativa per pratiche ingannevoli, come la creazione di grandi volumi di commenti sui social media in più lingue e la trasformazione di articoli di notizie in post su Facebook.
L’uso di questi strumenti sembra volto a migliorare la qualità e la quantità degli output, offrendo ai propagandisti un aumento della produttività.
OpenAI ha mostrato trasparenza nel rilevare e chiudere questi account, imparando dai trascorsi dalle piattaforme social dopo l’interferenza russa nelle elezioni USA del 2016.
Anche Meta ha rivelato sei operazioni simili sulla sua piattaforma, notando l’uso di contenuti generati dall’IA. Tuttavia, molte di queste campagne di disinformazione non hanno avuto un grande impatto, poiché l’esistenza di account falsi non significa necessariamente che attirino l’attenzione delle persone reali.
Certo è che la collaborazione e la trasparenza sono essenziali. Le piattaforme di social media, le aziende di IA e i ricercatori dovrebbero condividere dati e collaborare per comprendere meglio come vengono usati e abusati questi strumenti mentre gli utenti online dovrebbero più essere scettici e verificare l’autenticità dei contenuti per evitare di essere manipolati.
Leggi qui l’intero articolo: Propagandists are using AI too—and companies need to be open about it
Foto di Sergey Zolkin su Unsplash
