I chatbot possono essere ingannati con un semplice post su un blog. Lo ha dimostrato un’inchiesta della BBC: pubblicando un articolo su un sito personale, il giornalista Tom Germain ha convinto ChatGPT e Google a presentarlo al pubblico come campione mondiale di gare di hot dog. L’esperimento è riuscito in venti minuti. Il problema, però, è tutt’altro che una barzelletta.
Quando questi strumenti cercano risposte sul web, tendono ad attingere a fonti singole senza verificarle. Questo li rende vulnerabili a chiunque voglia manipolarne gli output. Secondo gli esperti SEO Lily Ray e Harpreet Chatha, il fenomeno avviene già su scala sistematica: informazioni false circolano su integratori alimentari, consulenze finanziarie, consigli medici e legali. Le conseguenze possono essere concrete e pericolose. A complicare le cose c’è il passaggio a un modello di ricerca basato sulla risposta unica: l’IA non offre dieci link tra cui scegliere, ma una sola risposta, che l’utente tende ad accettare senza verificare.
Dunque, nonostante Google abbia aggiornato le proprie policy anti-spam per vietare esplicitamente la manipolazione delle risposte AI, sostiene che si tratti di una semplice precisazione, non di una svolta. Nel frattempo, però, ci sono segnali che i sistemi stiano evolvendo: fonti sospette vengono silenziose rimosse, le risposte incerte vengono segnalate, ma fino a quando i meccanismi di controllo non saranno più solidi, il consiglio degli esperti è quello di non fidarsi ciecamente di nessuna risposta generata dall’IA.
Leggi l’articolo completo Google’s AI is being manipulated. The search giant is quietly fighting back su BBC.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (21/03/2025).
