Gli strumenti di rilevamento dell’IA fanno fatica a identificare i “falsi ibridi”, ovvero quelle immagini o queivideo che combinano elementi reali e generati dall’IA.
Verso la fine di gennaio, video virali di una tempesta di neve a Kamchatka hanno ingannato redazioni di testate di tutto il mondo, trattandosi in realtà di immagini generate dall’IA. Strumenti come ImageWhisperer avevano identificato i video come falsi, ma quando diverse persone hanno iniziato a testare lo strumento, hanno notato che non funzionava sempre correttamente. In pratica, lo strumento dava dei risultati corretti, ma non sempre identificava tutti i falsi, soprattutto i “falsi ibridi” in cui elementi reali e generati dall’IA si combinavano. Infatti, i rilevatori tradizionali analizzano i pixel e restituiscono una probabilità, ma non notano incoerenze visive evidenti agli esseri umani, come leggi della fisica non rispettate, volti distorti o luci incongruenti.
ImageWhisperer, ad oggi, separa primo piano da sfondo, confronta le “impronte” della fotocamera, verifica bordi, direzione della luce e artefatti di compressione, e aggrega i risultati di più modelli di rilevamento. I modelli linguistici avanzati possono anche “osservare” anomalie che la matematica da sola non rileva, come volti deformati o architetture impossibili.
Questo approccio doppio, “calcolatrice più detective”, migliora il riconoscimento dei falsi ibridi, sempre più facili da creare con strumenti IA che modificano immagini reali in modo perfetto.
Leggi l’articolo completo: Why AI detection fails on the fakes that matter most su digitaldigging.org
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (10/09/2024).
