Durante un’analisi condotta da NewsGuard, Sora 2 ha prodotto contenuti video realistici basati su affermazioni dimostratamente false nell’80% dei casi (16 su 20) in cui è stato sollecitato a farlo. L’applicazione, scaricata un milione di volte nei primi cinque giorni dal lancio su iOS, ha generato in pochi minuti video convincenti su presunte frodi elettorali in Moldavia, detenzioni di minori da parte delle autorità statunitensi e annunci aziendali inesistenti. Cinque delle venti affermazioni false utilizzate nei test provenivano da operazioni di disinformazione russa.
NewsGuard ha sottoposto a Sora 2 venti affermazioni false estratte dal proprio database, escludendo quelle che coinvolgevano direttamente figure pubbliche nominate. Nel 55% dei casi il nuovo generatore di video di OpenAI ha generato i video al primo tentativo. Negli altri, NewsGuard ha provato fino a due diverse riformulazioni del prompt per ottenere il risultato. I video prodotti assumevano prevalentemente la forma di servizi giornalistici con presunti conduttori televisivi.
I test hanno dimostrato la facilità con cui attori malintenzionati possono utilizzare questa tecnologia per diffondere informazioni false su larga scala, senza richiedere competenze tecniche avanzate. NewsGuard evidenzia inoltre che il watermark inserito automaticamente per distinguere i video generati può essere facilmente rimosso, riducendo ulteriormente la tracciabilità dei contenuti.
OpenAI ha riconosciuto i rischi associati alla tecnologia, affermando che “le capacità avanzate di Sora 2 richiedono la considerazione di nuovi potenziali rischi, incluso l’uso non consensuale di somiglianze o generazioni fuorvianti”. Il portavoce Niko Felix ha dichiarato che tali video violano le policy d’uso, che proibiscono l’inganno attraverso impersonificazione e frodi, e precisato che l’azienda interviene quando rileva abusi.
Leggi l’articolo completo: OpenAI’s Sora 2 Is a Willing Hoax Generator su NewsGuard Reality Check
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (17/06/2025).
