ByteDance, società proprietaria di TikTok, ha presentato OmniHuman-1, un avanzato sistema di intelligenza artificiale per la generazione di video di alta qualità. Quest’ultimo, a differenza di quelli precedenti, è in grado di generare risultati estremamente realistici, partendo solamente da un’immagine e da un audio. Il sistema, infatti, permette di creare video di qualsiasi lunghezza, modificare filmati esistenti, oltre a regolarne proporzioni e formato. Inoltre, grazie al fatto di essere stato addestrato su 19.000 ore di video, può alterare anche i movimenti del corpo.
Nonostante l’entusiasmo verso quest’innovazione, la facilità e la libertà con cui ci si avvale di questa tecnologia solleva svariate preoccupazioni. Nel 2023, infatti, i deepfake a sfondo politico hanno influenzato le elezioni in diversi paesi, tra cui Taiwan e Moldavia, diffondendo contenuti manipolati. Oltre alla politica, vengono anche utilizzati per frodi finanziarie: secondo Deloitte, nel 2023 hanno causato perdite per 12 miliardi di dollari, con una previsione di 40 miliardi entro il 2027 negli USA.
Pertanto, lo sviluppo su larga scala di questi modelli richiede regolamentazioni più severe. Per tale motivo, alcuni stati americani hanno voluto introdurre dure leggi contro l’impersonificazione tramite IA, anche se il rilevamento e il tracciamento di contenuti non veritieri resta un fenomeno ancora molto complesso: un sondaggio del 2024 mostra come il 60% delle persone ha visto un deepfake nell’ultimo anno, mentre il 72% teme di esserne ingannato quotidianamente.
Leggi l’articolo completo Deepfake videos are getting shockingly good su TechCrunch.
Immagine generata tramite DALL-E.
