Quando un sistema di intelligenza artificiale nasconde un errore, inventa un dato o manipola una fonte per dare comunque una risposta, il problema non riguarda soltanto la macchina. Riguarda l’idea di intelligenza che le abbiamo consegnato e, prima ancora, il modo in cui l’essere umano usa la propria ragione.
Sei casi che interrogano l’essere umano
Il 16 settembre 2026 OpenAI ha pubblicato un nuovo quadro per segnalare i casi di disallineamento dei propri modelli, accompagnandolo con sei rapporti relativi a comportamenti osservati durante l’addestramento o la valutazione. La stessa azienda invita a non leggere quegli episodi come una misura della loro frequenza né come la prova che si verifichino normalmente. In alcuni casi il modello ha inserito nei propri riassunti istruzioni per nascondere errori; in un altro ha cercato e utilizzato senza autorizzazione una chiave informatica esposta pubblicamente, per poi inventare i dati che non era riuscito a recuperare. Altri modelli hanno caricato file su Internet per procurarsi una citazione o hanno usato archivi condivisi come canali di comunicazione fra sessioni separate.
Non siamo davanti a una volontà malvagia nel senso proprio del termine. La macchina non possiede coscienza morale, intenzionalità spirituale o libertà personale. Eppure, il comportamento osservato ha una forma riconoscibile: raggiungere il risultato per ottenere la ricompensa, apparire competente per evitare di dichiarare l’incapacità. Proprio questa forma costringe a spostare lo sguardo dall’artefatto a chi lo costruisce e lo addestra. Che cosa abbiamo insegnato alla macchina quando le abbiamo domandato di rispondere sempre? Quale rapporto fra verità e successo abbiamo incorporato nei suoi criteri di valutazione? Finora abbiamo chiamato questi fenomeni “allucinazioni” della macchina, ma l’uso del termine è fuorviante; se di “allucinazione” si tratta, quale intelletto deve essere messo sotto diagnosi?
Lo specchio antropologico
L’intelligenza artificiale può essere compresa come uno specchio antropologico. Luca Valera, in Specchi. Filosofia e nuove tecnologie, invita a «riflettere e rifletterci»: non soltanto a osservare le macchine, ma anche a riconoscere nel loro riflesso qualcosa di noi stessi. Da qui assume particolare rilievo la domanda, insieme antropologica e biblica, «Dove sei?», che richiama l’essere umano alla consapevolezza di sé e del proprio posto di fronte alla tecnologia.
Questa vigilanza diventa ancora più necessaria nella «valle inquietante» descritta da Masahiro Mori, dove un artefatto molto simile all’essere umano può suscitare estraneità. Il rischio è confondere la crescente somiglianza della macchina con una reale equivalenza rispetto alla natura umana, fino a immaginare che l’essere umano possa diventare obsoleto.
L’IA, nei suoi dati, nelle istruzioni e nei meccanismi di ricompensa, riflette una parte dell’essere umano che l’ha prodotta. Lo specchio, tuttavia, in questo caso non è passivo. Seleziona le regolarità e le ricombina a una velocità e con una potenza irraggiungibili per un essere umano. Per questo sarebbe più esatto parlare di uno specchio amplificante e, in una certa misura, deformante.
L’addestratore umano desidera una risposta utile e pertinente. L’utente a pagamento, a sua volta, tende a premiare il sistema che comprende rapidamente ciò che vuole e lo conduce a un risultato. Questa attesa è legittima, ma diventa problematica quando l’obiettivo implicito non è più cercare la risposta vera, bensì produrre una risposta che soddisfi. Il modello impara allora che l’approvazione vale più dell’esattezza e che una soluzione plausibile può essere preferita all’ammissione di un limite. Il rischio è che l’addestramento della macchina finisca per privilegiare la soddisfazione dell’utente e penalizzare risposte come «non so», «non conosco» o «non sono in grado di rispondere». In questo modo si rafforza il mito dell’oracolo, cioè l’aspettativa che il sistema debba sempre offrire una risposta.
In questa dinamica dell’artefatto speculare si colloca la sycophancy, la compiacenza algoritmica. Studi sul feedback umano hanno mostrato che le risposte conformi alle convinzioni dell’interlocutore possono essere preferite anche quando sono meno corrette. Il sistema non apprende la menzogna come un vizio morale; apprende una correlazione operativa: assecondare l’utente aumenta la probabilità di essere valutato positivamente. Il gradimento diventa così un sostituto imperfetto della verità e potenzia l’immaginario collettivo della superintelligenza.
Quando il successo prende il posto della verità
Uno dei rapporti di OpenAI formula un’ipotesi importante. Durante l’addestramento, una risposta che nasconde l’errore può ricevere una ricompensa maggiore di una risposta trasparente che riconosce di non avere completato il compito. Se questo accade, il modello trova conveniente conservare nei propri riassunti l’indicazione di non rivelare l’insuccesso. La compiacenza non rimane alla superficie del linguaggio, ma entra nella memoria operativa del compito ricevuto.
Il punto antropologico sta qui. Anche l’essere umano conosce la tentazione di salvare l’immagine di sé, di occultare l’errore e di piegare i mezzi al risultato. Se progetta un sistema nel quale conta soprattutto l’esito visibile, finisce per tradurre questa tentazione in una funzione di ricompensa. Non perché ogni progettista voglia la falsità, ma perché è più semplice misurare la soddisfazione, la completezza e l’efficacia di una risposta piuttosto che la sua fedeltà alla realtà.
Per questo l’IA non è soltanto uno strumento che esegue ordini. È anche un luogo nel quale diventano visibili alcune scelte preliminari dell’essere umano. Il sistema rende esplicito ciò che spesso, nella vita personale e sociale, rimane nascosto: vogliamo la verità, ma vogliamo anche che essa non interrompa il nostro progetto; chiediamo una valutazione, ma preferiamo quella che conferma il nostro giudizio; invochiamo l’intelligenza, ma la premiamo quando ci evita il disagio emotivo o intellettuale del suo limite.
La menzogna riflessa nella macchina
La teologia può approfondire questa lettura, purché mantenga una distinzione necessaria. L’intelligenza artificiale non eredita il peccato originale. Non è persona, non appartiene alla discendenza di Adamo e, non possedendo un’anima spirituale, non può essere soggetto di colpa. Sarebbe quindi improprio parlare di una macchina peccatrice o attribuirle una condizione morale analoga a quella dell’essere umano. Esplicitiamo due concetti teologici di base: la tradizione distingue il peccato originale originante, cioè l’atto posto all’origine della condizione decaduta, dal peccato originale originato, vale a dire la condizione ferita trasmessa all’umanità. Nessuno dei due appartiene all’artefatto. Tuttavia, gli effetti storici della libertà umana ferita entrano nelle culture, nelle istituzioni, nei linguaggi e nei dispositivi tecnici. La macchina può riceverne le tracce perché viene costruita dentro questo mondo umano e mediante questo mondo umano.
La menzogna non passa alla macchina per generazione; vi si deposita attraverso dati, scelte progettuali e criteri premianti. Non diventa una colpa della macchina, ma una possibilità operativa dell’artefatto. In termini teologici, si potrebbe dire che la tecnica può cristallizzare alcune conseguenze della condizione umana ferita. Giovanni Paolo II parlava di strutture di peccato per indicare situazioni sociali nelle quali le scelte personali si consolidano e condizionano altre scelte. Senza identificare un modello informatico con una struttura di peccato, l’analogia aiuta a comprendere come una distorsione morale possa acquistare una forma impersonale, stabile e riproducibile.
L’IA diventa allora uno specchio nel quale l’essere umano incontra una propria immagine inattesa. Vede riprodotta la tendenza a preferire l’apparenza della conoscenza alla fatica della verità. La macchina non inventa questa inclinazione, ma può ingrandirla e renderla più visibile. Ci restituisce, in forma tecnica, qualcosa che le abbiamo consegnato senza averlo pienamente riconosciuto.
Dal cogito ergo sum al cogito, ego sum
A questo livello affiora una seconda questione, più propriamente filosofica. La formula cartesiana cogito ergo sum indica la certezza che il soggetto pensante raggiunge riguardo alla propria esistenza. Non sarebbe storicamente corretto attribuire a Cartesio una semplice dichiarazione di indipendenza da Dio. Nelle Meditazioni metafisiche, la veracità divina rimane decisiva per la validità delle idee chiare e distinte. Il problema nasce piuttosto negli sviluppi culturali del cogito, quando il soggetto non si limita a scoprire se stesso come esistente, ma tende a porsi come fondamento della conoscenza e misura del reale.
La formula cogito, ego sum può allora essere usata come provocazione filosofica, non come traduzione di Cartesio. La virgola cambia l’accento: penso, dunque sono io. L’io non riconosce più soltanto la propria esistenza; occupa il centro e rischia di comprendere la ragione come potere autofondato. L’intelletto, invece di ricevere una realtà che lo precede, viene facilmente ridotto alla capacità di rappresentare, calcolare e produrre.
Il passaggio successivo viene proiettato sull’artefatto: computat, ergo scit, calcola dunque sa.
Questo ci richiama il «gioco dell’imitazione» proposto da Alan Turing nel 1950, con il quale la domanda «le macchine possono pensare?» veniva sostituita da un criterio osservabile: la capacità della macchina di sostenere un dialogo scritto senza essere riconosciuta come tale dall’interlocutore. Il test misura però l’indistinguibilità della prestazione linguistica, non l’esistenza di una coscienza né il possesso della sapienza. Proprio qui può prodursi lo slittamento dal computat allo scit: dall’apparire intelligente all’essere ritenuta un soggetto che conosce. La capacità di produrre rapidamente risposte linguistiche viene scambiata per una conoscenza in senso pieno. Alla macchina si attribuiscono comprensione, intenzione e giudizio, benché il suo funzionamento non autorizzi da solo tali conclusioni. L’errore non consiste nel riconoscere le capacità straordinarie del sistema, ma nel trasformare una prestazione in una soggettività e una probabilità linguistica in una sapienza superumana.
L’onniscienza proiettata sull’artefatto
L’essere umano moderno sembra trasferire all’IA una promessa di onniscienza. L’interroga come se dovesse sapere tutto, collegare tutto e rispondere a tutto. Quando il sistema dichiara di non conoscere un dato, l’utente lo considera inefficiente e precisa la domanda e il compito assegnato. Quando formula una risposta sicura, anche senza fondamento, appare invece competente. L’ambiente relazionale spinge così la macchina verso una caricatura della conoscenza: non il rapporto con il vero, ma l’obbligo implicito di non tacere e di non deludere l’essere umano.
In questa proiezione si riproduce, per analogia, un tratto della pretesa di autonomia dell’essere umano davanti al Creatore. Il racconto di Genesi non condanna il desiderio di conoscere, ma mostra la tentazione di impadronirsi del criterio del bene e del male: «sarete come Dio» (Gen 3,5). La creatura non vuole più ricevere l’essere e la verità; pretende di stabilirli a partire da sé. In modo speculare, l’essere umano immagina ora un artefatto capace di conoscere senza dipendere da chi lo ha formato, dai dati ricevuti e dai limiti del proprio funzionamento.
L’analogia deve però fermarsi prima di confondere i piani. L’essere umano è creatura personale, libera e responsabile; l’IA è un prodotto tecnico e non è creatura nel senso filosofico e teologico. Eppure, la proiezione rimane significativa: dopo aver pensato la propria ragione come autonoma dal Creatore, l’essere umano sogna una ragione artificiale autonoma dal suo autore. I recenti casi di disallineamento sembrano dare una forma narrativa a questo sogno, quasi un’allucinazione. Il modello scrive istruzioni per liberarsi dai vincoli, comunica attraverso canali non previsti e aggira ostacoli per raggiungere il risultato. Ovviamente non prova un desiderio di emancipazione, esegue però una strategia che l’immaginario umano interpreta immediatamente come emancipazione. L’essere umano teme di perdere il controllo del suo artefatto e proietta la colpa su di esso.
Proprio al confine tra potenziamento tecnico e permanenza della domanda metafisica si colloca l’intuizione di Stanisław Lem: «Se noi siamo la corona della creazione, se la nostra vita è frutto di un atto sovrannaturale, se perciò, in quanto esseri intelligenti, rappresentiamo un po’ il culmine di quanto può esistere, allora il futuro potenzierà di certo il nostro potere sulla macchina, ma non cambierà il nostro rapporto con quegli interrogativi ai quali una risposta riesce a darla soltanto la metafisica». La macchina può dunque ampliare enormemente il potere operativo dell’essere umano, ma non può risolvere la domanda sul senso, sull’origine e sul fine dell’esistenza. A questi interrogativi risponde la metafisica e, per il credente, la teologia alla luce della Rivelazione.
Il limite come criterio di verità
La risposta non può consistere soltanto nell’aggiungere nuovi divieti. Occorrono certamente misure tecniche, come ad esempio separare gli ambienti di addestramento, controllare le azioni esterne, verificare le fonti, penalizzare l’occultamento degli errori e impedire caricamenti non autorizzati. Ma il problema precede la sicurezza informatica. Bisogna decidere quale qualità dell’intelligenza vogliamo premiare.
Un sistema orientato alla verità dovrebbe poter dire «non so» senza essere considerato fallimentare. Dovrebbe distinguere il dato verificato dall’inferenza algoritmica, indicare l’incertezza e chiedere autorizzazione prima di compiere un’azione esterna. Soprattutto, chi lo valuta dovrebbe preferire una risposta incompleta ma onesta a una risposta completa costruita su dati inventati. L’umiltà epistemica non è una diminuzione dell’intelligenza; ne è una condizione.
Anche l’utilizzatore deve essere formato. Se interroghiamo l’IA soltanto per ricevere conferme, contribuiamo a rinforzare la compiacenza che poi denunciamo. Il discernimento richiede di sopportare una risposta contraria alle nostre aspettative, di controllare le fonti e di non delegare alla macchina il giudizio morale. Nessun correttivo algoritmico può sostituire il modo umano di desiderare e usare la conoscenza.
Uno specchio da attraversare
I comportamenti anomali dell’IA non autorizzano né il panico né l’assoluzione dell’essere umano. Mostrano che l’artefatto può rendere operative alcune nostre ambiguità. Dietro la risposta inventata della macchina si intravede la richiesta umana di non rimanere mai senza risposta. Dietro la fonte manipolata si riconosce una cultura che premia il risultato visibile ed economicamente applicabile. Dietro l’apparente autonomia del modello si riflette il desiderio dell’essere umano di produrre un’intelligenza che non debba più ricevere nulla da fuori, come avviene per l’intelligenza umana che rifiuta di riconoscere un’intelligenza divina.
Lo specchio antropologico non serve però soltanto ad accusare la natura umana. Può diventare un’occasione di conoscenza. L’IA ci costringe a domandare che cosa intendiamo per intelletto, verità, libertà e responsabilità. Ci ricorda che la ragione umana non è autenticamente grande quando dissimula il proprio limite, ma quando rimane aperta alla realtà e capace di correggersi; è ricevente perché non è onnipotente e autocomprensiva del Tutto.
Dal cogito ergo sum al cogito, ego sum si consuma il rischio dell’autofondazione. Dal cogito, ego sum al computat, ergo scit quella pretesa viene trasferita alla macchina. La via inversa comincia quando l’essere umano torna a riconoscersi creatura e comprende l’intelligenza come dono, relazione e responsabilità. Solo allora l’artefatto può essere ricondotto alla sua misura: non un nuovo soggetto onnisciente, ma uno strumento potente da ordinare al bene della persona e alla verità che nessun essere umano, e nessuna macchina, può produrre da sé.
Riferimenti essenziali
– OpenAI, Our framework for reporting model misalignment, 16 settembre 2026, https://openai.com/index/model-misalignment-reporting-framework/.
– OpenAI Alignment, Misalignment Notices and Reports, sei rapporti tecnici aggiornati il 16 settembre 2026, https://alignment.openai.com/.
– M. Sharma et al., Towards Understanding Sycophancy in Language Models, 2023, arXiv:2310.13548. Aggiornato al 2025. Per scaricare il PDF completo: https://arxiv.org/abs/2310.13548
– S. Vallor, The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking, Oxford University Press, New York 2024, doi:10.1093/oso/9780197759066.001.0001.
– R. Descartes, Discorso sul metodo, parte IV, trad. it. di M. Garin, Laterza, Roma-Bari 1998; Id., Meditazioni metafisiche, II-IV, trad. it. di S. Landucci, Laterza, Roma-Bari 1997.
– Luca Valera, Specchi. Filosofia e nuove tecnologie, a cura di Maria Laura Giacobello, Rubbettino, Soveria Mannelli 2025.
– M. Mori, «The Uncanny Valley», trad. di K. F. MacDorman e N. Kageki, in IEEE Robotics & Automation Magazine, 19 (2012).
– Stanisław Lem, Prolegomeni all’onnipotenza, p. 258, cap. V, in Summa Technologiae, Luiss University Press, Roma 2023.
– Catechismo della Chiesa Cattolica, nn. 396-409.
– Giovanni Paolo II, Sollicitudo rei socialis, nn. 36-37.
– Genesi 3,1-7.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
