Mark Russo è uno sviluppatore indipendente che è stato temporaneamente sospeso da tutti i servizi Google dopo aver caricato sul proprio Google Drive un dataset di addestramento per intelligenza artificiale contenente, a sua insaputa, materiale pedopornografico. Il dataset in questione è noto con il nome di NudeNet ed è ampiamente utilizzato nella ricerca accademica per rilevare immagini di nudità. Tuttavia, contiene anche immagini illegali che sono state segnalate e rimosse da organizzazioni come il Centro canadese per la protezione dell’infanzia (C3P).
Russo stava testando un rilevatore di immagini NSFW per dispositivi mobili, aveva segnalato il dataset a C3P e ad altre organizzazioni competenti, contribuendo così alla rimozione dei contenuti illeciti. Nonostante ciò, Google ha sospeso il suo account, definendo il materiale presente “una grave violazione delle norme” e impedendogli l’accesso a Gmail, Firebase, AdMob e Google Cloud. I ricorsi presentati da Russo sono stati inizialmente respinti, generando per lui gravi difficoltà nello sviluppo e nella gestione delle sue applicazioni.
Successivamente, Google ha riesaminato il caso, riconoscendo che Russo non aveva intenzione di distribuire contenuti dannosi e ha ripristinato l’account. Questo episodio evidenzia le criticità nell’uso di dataset di addestramento raccolti tramite scraping indiscriminato, che possono contenere materiale illegale e porta a dubitare circa l’impatto delle automazioni nella gestione dei contenuti, soprattutto quando coinvolgono sviluppatori indipendenti impegnati in progetti legittimi.
Leggi l’articolo completo: A Developer Accidentally Found CSAM in AI Data. Google Banned Him For It su 404media.co
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (17/03/2025).
