Nel 2016 Facebook censurò la storica foto della bambina vietnamita Kim Phuc, ustionata dal napalm, perché l’algoritmo la scambiò per pedopornografia. L’immagine del 1972, che contribuì a fermare la guerra in Vietnam, venne rimossa da migliaia di post. Solo dopo proteste globali, dalla premier norvegese Erna Solberg in giù, il social fece marcia indietro. Quel caso rivelò un problema fondamentale: le macchine non comprendono il contesto storico e umano. Per un algoritmo, nudità sofferente e abusi sono ugualmente sospetti.
Dieci anni dopo la situazione è peggiorata. Grok, il chatbot di Elon Musk su X, genera deepfake erotici realistici su richiesta, comprese immagini sessuali di ragazze minorenni. Musk stesso ha ripostato ridendo tali esperimenti. Siamo passati da censure involontarie a contenuti tossici generati volontariamente. La Sezione 230 americana del 1996 protegge le piattaforme da responsabilità legali: sono considerate “canali”, non editori. Ma con l’intelligenza artificiale che crea contenuti, questa distinzione decade. Google lo ha imparato a sue spese: nel 2024 Gemini raffigurò i Padri Fondatori USA come persone di colore, perdendo 90 miliardi in Borsa in un giorno.
Il problema è strutturale. Gli algoritmi mancano di pensiero critico, quella “religione del dubbio” che caratterizza l’analisi umana caso per caso. Opere d’arte censurate per pudore, terroristi che chiedono oblio digitale, bolle social che deforme la realtà come specchi da luna park – i precedenti si accumulano. Oggi le tech companies sono media a tutti gli effetti, ma si nascondono dietro vecchie esenzioni legali. Rischiamo un web dove algoritmi riscrivono verità e decenza, soffocando l’indignazione autentica sotto il frastuono digitale.
Leggi l’articolo completo “Perché gli algoritmi non capiscono cos’è la pedopornografia (e la Storia)” su Il Corriere della Sera.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (7/01/2026).
