Ben Zhao, ricercatore di sicurezza informatica presso l’Università di Chicago, ha iniziato a combattere l’uso non consensuale dell’IA generativa a supporto degli artisti. Il suo coinvolgimento è iniziato quando, durante una chiamata Zoom con la Concept Art Association, uno di loro chiese una protezione contro l’uso della propria arte da parte dell’IA. La proposta fu quindi quella di sviluppare uno strumento che mascherasse le opere artistiche per ostacolare i modelli di IA nel fare scraping. Da questa discussione sono nati Glaze e Nightshade, due strumenti progettati per proteggere le immagini artistiche da scraping e addestramento illecito da parte di IA.
Glaze è stato scaricato oltre 6 milioni di volte, modifica i pixel delle immagini per impedirne l’analisi da parte degli algoritmi di IA. Nightshade, invece, aggiunge uno strato invisibile di “veleno” che distorce i modelli di IA. Questi strumenti sono stati ben accolti dagli artisti, ma hanno anche suscitato critiche e scetticismo, specialmente per le preoccupazioni sulla loro sicurezza. Nonostante le critiche, entrambi sono stati accolti dalla comunità accademica, ricevendo premi e riconoscimenti.
Zhao spera che questi strumenti possano spostare il potere dal controllo delle grandi aziende tecnologiche verso i creatori individuali, ma resta il rischio che, sebbene utili, possano non garantire una protezione totale.
Leggi l’articolo completo: The AI lab waging a guerrilla war over exploitative AI su technologyreview.com.
Immagine generata tramite DALL-E 3.
