L’Internet Watch Foundation avverte di un crescente pericolo rappresentato dai video di abusi sessuali su minori generati tramite IA.
Con il miglioramento e la diffusione degli strumenti di IA, sempre più spesso vengono sfruttati da pedofili per produrre contenuti disturbanti. Questi video spesso derivano dalla manipolazione di materiale esistente, come filmati di abusi o pornografia per adulti. Esistono tuttavia anche esempi di video completamente sintetici.
Nel 2023, l’IWF ha registrato un aumento significativo della qualità e del realismo di queste immagini, con 12.000 nuove foto pubblicate su un forum del dark web in un solo mese. Molti di questi video potrebbero essere perseguiti secondo le stesse leggi del Regno Unito che riguardano il vero materiale pedopornografico. Il direttore esecutivo dell’IWF, Susie Hargreaves, sottolinea l’urgenza di implementare controlli più severi e modificare le leggi per criminalizzare la creazione e la distribuzione di modelli IA utilizzati per generare tali contenuti.
L’IWF sta anche promuovendo l’adozione di normative più restrittive per combattere la creazione e la vendita di guide e modelli di IA perfezionati per produrre materiale di questo genere. Recentemente, Baronessa Kidron ha presentato un emendamento per includere tali crimini nella legge sulla protezione dei dati e delle informazioni digitali, ma la legge è stata sospesa a causa delle elezioni generali.
Leggi l’articolo completo: AI advances could lead to more child sexual abuse videos, watchdog warns su theguardian.com.
Foto di Etienne Girardet su Unsplash.
