Un nuovo strumento chiamato LightShed riesce a neutralizzare le protezioni digitali anti-IA sviluppate con l’obiettivo di difendere le opere d’arte online dall’uso non autorizzato nei dataset di addestramento.
Questa tecnologia, realizzata da un team internazionale guidato da Hanna Foerster dell’Università di Cambridge, sarebbe in grado di rimuovere le “perturbazioni” impercettibili applicate da strumenti come Glaze e Nightshade, ideati per confondere i modelli di IA e impedire che apprendano stile e contenuti delle immagini.
Il sistema, che sarà presentato ad agosto all’Usenix Security Symposium, è stato addestrato per riconoscere e isolare solo il “veleno” digitale (quelle sottili alterazioni mirate che fanno sì che l’IA interpreti male l’immagine), risultando efficace persino su metodi mai visti prima. Questa capacità mette in discussione l’efficacia delle attuali contromisure adottate da milioni di artisti, in un contesto di incertezza normativa sul diritto d’autore.
Gli sviluppatori di LightShed dichiarano di non voler favorire l’uso illecito delle opere ma, anzi, di voler evitare un falso senso di sicurezza.
Nel frattempo, i ricercatori puntano già allo sviluppo di nuove difese, come filigrane intelligenti, per riportare il controllo nelle mani degli artisti.
Leggi l’articolo completo: This tool strips away anti-AI protections from digital art su technologyreview.com.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (13/11/2024).
