I sistemi di intelligenza artificiale generativa mostrano gravi limiti quando si richiede l’accuratezza nella verifica delle citazioni letterali. Invece di cercare dati con precisione meccanica come i database tradizionali, questi modelli ricostruiscono il testo in modo probabilistico. Si generano così parafrasi plausibili ma imprecise, che l’algoritmo convalida erroneamente anche nei controlli successivi.
Per aumentare l’accuratezza si usa il sistema RAG (Retrieval-Augmented Generation), che estrae frammenti di documenti esterni per utilizzarli come contesto nella risposta. Pur riducendo i margini di errore, il RAG non risolve il problema alla radice. Oltre la metà delle citazioni prodotte con questa tecnica, infatti, non mostra infatti una reale e fedele corrispondenza con i testi originali di partenza.
Senza un’adeguata competenza epistemica da parte degli utenti, soprattutto nel settore educativo, si rischia di inserire errori nei documenti ufficiali. L’accuratezza non appartiene allo strumento in sé, ma al flusso di lavoro complessivo. I modelli generativi restano ottimi collaboratori semantici, ma la verifica finale di una fonte deve sempre essere delegata a un attento controllo umano.
Leggi l’articolo completo “When AI Says “This Quote Is Accurate,” You Shouldn’t Believe It” su Educating AI.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (14/07/2026).
