Scorrendo il feed di Facebook nel Regno Unito, tra annunci di nascite e beghe di quartiere, ci si imbatte spesso in account con nomi vaghi come Britain Today e una Union Jack come immagine profilo. Si presentano come voci del patriottismo britannico, ma dietro molti di questi profili si nascondono giovani imprenditori del Sud-est asiatico — Sri Lanka e Pakistan — che usano l’intelligenza artificiale per produrre contenuti islamofobi e xenofobi a scopo di lucro.
Lo ha scoperto il Bureau of Investigative Journalism, che ha analizzato due “sloperazioni” particolarmente redditizie. I creator guadagnano grazie agli annunci che Meta inserisce accanto ai contenuti più virali, con pagamenti diretti proporzionali all’engagement generato. Uno dei creator pakistani dichiara 1.500 dollari al mese da una sola pagina; lo sri lankese Geeth Sooriyapura sostiene di aver incassato 300.000 dollari complessivi. Il meccanismo si regge su due fattori strutturali. Innanzitutto, la diffusione degli strumenti di IA generativa, che abbassano drasticamente la barriera d’ingresso — anche per chi non parla inglese; in secondo luogo, il ritiro delle piattaforme dalla moderazione dei contenuti, accelerato dalla pressione dell’amministrazione Trump.
Nonostante Meta giustifichi i tagli ai team di sicurezza con l’uso dell’IA, i contenuti d’odio restano visibili e facilmente rintracciabili e, solo in un secondo momento, quando il Bureau ha contattato Meta, molte pagine sono state rimosse. Ma la rete sri lankese è già tornata attiva e questo perché finché il feed algoritmico premierà i contenuti che provocano emozioni estreme, il problema si riproporrà invariabilmente.
Leggi l’articolo completo Who’s behind the Facebook page posting hateful AI slop about the UK? The answer might lie in south Asia su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (16/04/2025).
