Un team di ricercatori dell’Università La Sapienza di Roma ha analizzato il comportamento di tre modelli IA con l’obiettivo di capire in che modo identificano pregiudizi e mancanza di attendibilità. Lo studio rivela che per quanto queste IA siano capaci di identificare le fonti inaffidabili, tendono ad applicare criteri più restrittivi rispetto ai sistemi umani di valutazione, rischiando di escludere siti considerati affidabili dagli esperti.
Per condurre lo studio, pubblicato in preprint su arXiv, i ricercatori hanno utilizzato Gemini 1.5 Flash, GPT-4o mini e Llama 3.1 405B. In una prima fase hanno confrontato i giudizi delle IA su un campione di 7.715 siti di news con le valutazioni di due piattaforme di fact checking, NewsGuard e Media Bias Fact Check. Successivamente, hanno chiesto ai modelli di specificare i criteri utilizzati per la valutazione. Le IA hanno mostrato un approccio più rigido rispetto agli esperti, scartando anche fonti ritenute affidabili. L’analisi ha rivelato anche che che parole come “Biden”, “Trump” o “deep state” vengono spesso associate a scarsa credibilità, indicando che i modelli applicano “principi molto più schematici”.
Walter Quattrociocchi, professore di Informatica e co-autore dello studio, spiega che l’uso dell’IA per il fact checking potrebbe rivelarsi un’arma a doppio taglio. La prevedibilità dei criteri utilizzati dagli algoritmi potrebbe aprire la strada a strategie di manipolazione capaci di aggirare i controlli, rendendo il sistema vulnerabile. Automatizzare il fact checking rischia quindi di favorire il fenomeno delle fake news anziché contrastarlo, come nel caso dei sistemi di moderazione dei social network.
Leggi l’articolo originale “Possiamo davvero usare l’intelligenza artificiale per contrastare le fake news?” su Wired
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025)
