Un’indagine di Wired ha scoperto numerosi canali YouTube che utilizzano l’IA generativa per creare video inquietanti con personaggi dei cartoni animati. Questi contenuti mostrano principalmente gatti e minion in situazioni di violenza, abuso ed erotiche, ricordando il fenomeno “Elsagate” del 2017.
Difatti, canali come “Go Cat” si presentano come “divertenti ed emozionanti per i bambini” mentre mostrano contenuti macabri. L’avvento dell’IA ha reso la creazione di questi video più facile e redditizia, permettendo di aggirare i controlli di YouTube.
In risposta alle segnalazioni di Wired, YouTube ha chiuso alcuni canali e sospeso la monetizzazione di altri, sottolineando che tutti i contenuti devono rispettare le linee guida della community. Tuttavia, nonostante ciò, molti canali problematici rimangono attivi. Gli esperti di Common Sense Media esprimono preoccupazione per questi video che mostrano “personaggi in estrema angoscia”, “mutilazioni” e “rappresentazioni di abusi sui minori”. Sebbene YouTube abbia implementato regole più severe dal 2019, i creatori tentano di aggirare le protezioni usando metadati fuorvianti.
Wired, dunque, ha condiviso con YouTube più di 70 canali problematici trovati durante l’indagine. La piattaforma, in risposta, ha dichiarato di richiedere ai creatori di etichettare i contenuti generati dall’IA e di aver introdotto principi di qualità che hanno aumentato la visualizzazione di contenuti “di alta qualità” del 45% su YouTube Kids. Il problema, però, si estende anche ad altre piattaforme come, ad esempio, TikTok. Pertanto, gli esperti sottolineano la necessità di nuove soluzioni per affrontare le sfide uniche poste dai contenuti generati dall’IA e un eventuale collaborazione tra tutte le parti interessate.
Leggi l’articolo completo Dozens of YouTube Channels Are Showing AI-Generated Cartoon Gore and Fetish Content su Wired.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
