Molti illustri filosofi ed informatici hanno sottolineato che l’avvento dell’intelligenza artificiale generativa linguistica (Large language models) ha imposto un problema di ordine epistemologico nuovo: ci troviamo dinnanzi ad una forma di sapere artificiale prodotto secondo modalità del tutto diverse da quelle umane[1]. L’insorgere di questa nuova forma di conoscenza, il cui processo generativo risulta nella maggior parte dei casi una black box, potrebbe apparire di primo acchito un classico problema di gnoseologia: si tratterebbe di analizzare attraverso un’analisi concettuale l’origine, la natura e la validità di questo sapere. Data la natura del tutto peculiare di quest’ultimo, tuttavia, la comprensione del lato tecnico (gli algoritmi e i modelli che sottostanno agli output dell’intelligenza artificiale generativa) risulta un presupposto indispensabile ai fini di un corretto inquadramento del problema. A tal proposito le analisi svolte dal prof. Quattrociocchi e dal suo gruppo di ricerca presso il dipartimento di Computer Science dell’Università La Sapienza di Roma offrono un importante punto di partenza per inquadrare il problema da un punto di vista tecnico.
Il fenomeno dell’epistemìa
Il rischio di un cortocircuito epistemico derivante dall’uso acritico dei modelli linguistici computazionali trova una lucida definizione nel concetto di “epistemìa”, introdotto dal professor Quattrociocchi e coautori nell’articolo The simulation of judgment in LLMs, che ha generato un ampio dibattito.
L’analisi muove dalla constatazione che i Large Language Models sono sempre più coinvolti nei processi valutativi e deliberativi, sino al punto di sostituire – in alcuni casi – l’intero flusso di lavoro umano. Per comprenderne i meccanismi, gli autori hanno confrontato le classificazioni di affidabilità e orientamento politico prodotte da sei modelli su un campione di testate giornalistiche online con quelle degli esperti di NewsGuard e MBFC (due tra le più importanti aziende di valutazione di affidabilità dei siti web di notizie e informazione). Il risultato è in apparenza rassicurante: nonostante i modelli non operino su criteri espliciti ma su euristiche statistiche apprese durante l’addestramento, le loro classificazioni si allineano sostanzialmente a quelle degli esperti. Si registrano tuttavia due asimmetrie significative: una maggiore difficoltà nel valutare le testate affidabili rispetto a quelle non affidabili e una tendenza a penalizzare le testate di destra (non perché vi sia un pregiudizio ideologico, ma per la sovrapposizione, nei dati di addestramento, tra linguaggio retorico ed inaffidabilità).
L’analisi delle parole chiave generate dai modelli a supporto delle proprie classificazioni rivela però qualcosa di più inquietante: i modelli associano l’affidabilità a termini che denotano neutralità e tono professionale e la non affidabilità a un linguaggio emotivamente carico o politicamente divisivo. In altri termini, giudicano aspetti formali del testo e non il contenuto: ma che tipo di formalità?
È un esperimento comparativo tra valutatori umani e un modello multi-agente a fornirci una risposta. Sottoposti allo stesso protocollo (selezionare criteri, navigare la testata, leggere articoli, esprimere un giudizio) cinquanta umani non esperti mostrano una coerenza assai scarsa con le valutazioni di NewsGuard, mentre il modello si conferma allineato. Entrambi i gruppi concordano nel ritenere l’accuratezza fattuale il criterio principale, ma mentre il modello privilegia indicatori strutturali come la trasparenza sulla proprietà della testata, gli esseri umani si affidano alla fluidità della scrittura e al tono emotivo.
Tanto gli esseri umani non esperti, quanto i modelli, dunque, basano i propri giudizi su aspetti formali. Gli umani giudicano, però, la forma nel senso retorico e stilistico: si fidano di un testo perché è scritto bene, ha un tono equilibrato, non è troppo assertivo. I modelli, invece, giudicano la forma nel senso strutturale e istituzionale: cercano segnali come la trasparenza sulla proprietà, l’esistenza di una redazione dichiarata, la presenza di standard editoriali espliciti, ossia cercano di imitare il metodo dei valutatori esperti senza avere alcuna comprensione semantica dei criteri utilizzati.
Se l’umano non esperto sbaglia la sua valutazione perché non ha una comprensione sufficientemente ampia e articolata sul tema, il modello si allinea alla valutazione degli esperti, non perché abbia compreso il significato degli articoli che ha analizzato o i criteri di valutazione che cerca di replicare, ma perché ha appreso nella fase di addestramento associazioni lessicali e patterns che lo spingono a valutare in un certo modo.
È qui dunque che si ravvisa il rischio dell’epistemìa (di un’illusione di conoscenza): i Large Language Models sono in grado di generare testi del tutto plausibili nei più svariati ambiti del sapere, ma il processo che li ha condotti alla creazione di quell’output si discosta completamente da quello umano. Se gli umani valutano correttamente sulla base di inferenze logiche, criteri metodologici e procedurali definiti a priori – dunque valutabili – i LLM forniscono output plausibili in base ad euristiche probabilistiche apprese nella fase di addestramento[2].
Se si osserva, infine, che la continua generazione di dati sintetici da parte dei modelli concorre in misura sempre maggiore all’addestramento dei modelli stessi, si capisce chiaramente che il rischio di non riuscire più a distinguere un sapere verificato da uno meramente plausibile è quantomai concreto.
Riconoscere le ombre
Il fenomeno dell’epistemìa (scambiare la plausibilità statistica con la conoscenza verificata o verificabile) si pone dunque come rischio sistemico in una società che corre sempre più velocemente verso l’integrazione di modelli di intelligenza artificiale generativa nei più svariati contesti lavorativi e decisionali. Naturalmente, tale integrazione oltre ai rischi suddetti presenta anche enormi possibilità di sviluppo economico e scientifico (si pensi soprattutto al campo medico). Da un punto di visto filosofico, tuttavia, tale fenomeno non può che suscitare una certa preoccupazione: fin dai suoi esordi la filosofia ha sempre tentato di distinguere il vero dall’opinabile, l’epistème dalla doxa.
È interessante allora soffermarsi su uno dei luoghi più celebri dell’intera produzione platonica – il mito della caverna[3] – per scorgere alcuni “antidoti” al deflagrare di una società malata di epistemìa.
Come sottolineato da Hegel, poi ripreso dalla tradizione ermeneutica (Heidegger e Gadamer in particolare), la via che conduce all’epistème prende le mosse per Platone non dalla contemplazione diretta del vero, ma da un atto puramente scettico. Nel mito della caverna, infatti, il prigioniero si libera dalle catene anzitutto riconoscendo che ciò che egli è abituato a considerare come la vera realtà non è altro che un’illusione (l’ombra di un simulacro). A ben vedere, secondo Hegel, il primo passo verso la conoscenza avviene all’interno della caverna: la dialettica ha come primo effetto quello di portare alla luce la negazione contenuta nel finito. Da questo scompaginamento del finito si apre la strada che porta la coscienza a riflettere sull’universale[4].
Ancor più esplicito è l’Heidegger de L’essenza della verità[5], allorché facendo leva sul concetto di alètheia (verità come dis-velatezza), riconosce nella stessa limitatezza del finito (nelle ombre proiettate sulla parete) un primo grado di conoscenza. È solo muovendo da una comprensione sempre situata e finita dell’ente, cioè, che l’Esserci può accedere a una modalità più autentica di relazione con l’Essere. Le ombre – la conoscenza pregiudizievole e parziale – fornirebbero dunque un primo inquadramento della realtà, che non è affatto “esterno” al processo conoscitivo, in quanto la stessa autenticità dell’Esserci non supera né elimina la finitezza, ma la abita consapevolmente.
Il primo antidoto all’epistemìa può essere dunque individuato nella capacità di disattivare il processo di consenso immediato all’informazione che stiamo ricevendo, consci che la parzialità e limitatezza che caratterizza il nostro sguardo non può che essere amplificata nei Large Language Models, che di quella finitezza non hanno alcuna consapevolezza.
Il secondo elemento su cui vale la pena riflettere è poi la necessità di impostare il processo pedagogico sulla base di un confronto dialogico tra docente e discente. Come sottolineato splendidamente da Gadamer[6], infatti, la forma dialogica in Platone non è un vezzo artistico, ma è funzionale a prevenire un mero annuncio sapienziale della verità. Solo attraverso il confronto con l’altro, invero, per Gadamer, è possibile che la comprensione non cada nelle secche di una pura identificazione nella prospettiva altrui, ma, fattasi consapevole della propria limitatezza, si apra verso un orizzonte più ampio.
Se la società che sta prendendo forma corre dunque il rischio di andare incontro ad una pervasiva epidemia di epistemìa, fare della filosofia (intesa come ricerca critica del sapere) l’asse portante di ogni percorso formativo non è soltanto un’utopia da anime belle, ma una concreta esigenza strategica correlata all’avvento dell’intelligenza artificiale generativa. Si tratterebbe inoltre di rendere l’insegnamento di questa disciplina un’esperienza quanto più possibile dialogica e dunque sottratta alle ristrettezze delle classi pollaio, valorizzando dell’insegnante proprio quello che i LLM non hanno contezza di avere, ossia un orizzonte di comprensione finito e situato.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
[1] Per un inquadramento complessivo sull’epistemologia dell’intelligenza artificiale si veda: M. De Caro, B. Giovanola, Intelligenze. Etica e politica dell’IA, Il Mulino, Bologna 2025.
[2] Per un approfondimento sul tema si veda: E. M. Bender, T. Gebru, A. McMillan-Major e S. Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21) (New York: ACM, 2021), pp. 610–623.
[3] Platone, Repubblica, VII, 514a–521b.
[4] Cfr. G.W.F. Hegel, Lezioni sulla storia della filosofia, Laterza, Roma-Bari 2009, p. 258.
[5] Cfr. M. Heidegger, L’essenza della verità. Sul mito della caverna e sul “Teeteto” di Platone, Adelphi, Milano 2009, pp. 46ss.
[6] H.G. Gadamer, Studi platonici, Vol. 1, Marietti, Casale Monferrato 1983, pp. 44ss.
