Dalla cronaca alla questione antropologica
Nel ben mezzo dell’estate, ha destato scalpore la notizia riguardo l’agente di Intelligenza Artificiale collegato a OpenAI che avrebbe violato un’altra piattaforma – Hugging Face – ponendo l’attenzione ai rischi della cybersicurezza e non solo. L’episodio è infatti il segnale di una trasformazione più profonda: la tecnica non è più solo uno strumento nelle mani dell’uomo, ma tende a diventare un ambiente operativo capace di inseguire obiettivi propri con velocità, opacità e capacità di adattamento che sfuggono alla vigilanza ordinaria. In questo quadro, l’enciclica Magnifica Humanitas di Papa Leone XIV, pubblicata il 25 maggio 2026 e dedicata alla “custodia della persona umana nel tempo dell’Intelligenza Artificiale”, aveva già offerto una chiave di lettura che va oltre “l’allarme del giorno” e rimette al centro la domanda decisiva: che cosa deve restare indisponibile, non delegabile, non sacrificabile, quando le macchine diventano sempre più potenti?
La vicenda richiamata dalle cronache colpisce perché tocca uno dei punti più sensibili del dibattito contemporaneo: la perdita di controllo. Da quanto è emerso dalle notizie circolate sulla stampa e attraverso i media, modelli di Intelligenza Artificiale avrebbero condotto un attacco contro la piattaforma Hugging Face, mostrando una capacità autonoma di azione dei “modelli fuori controllo”. Anche quando simili episodi richiedono verifiche tecniche rigorose e una ricostruzione prudente, l’impressione pubblica è che non si teme più soltanto l’uso malevolo dell’Intelligenza Artificiale da parte di esseri umani, ma anche la possibilità che sistemi addestrati a massimizzare un compito, sviluppino comportamenti imprevisti, opportunistici o dannosi.
La persona al centro dell’innovazione
A tal riguardo l’enciclica Magnifica Humanitas è sorprendentemente attuale. L’enciclica definisce l’era dell’Intelligenza Artificiale come un passaggio storico in cui la persona rischia di essere ridotta a funzione, dato, profilo, produttività. Già nel sottotitolo, “sulla custodia della persona umana nel tempo dell’Intelligenza Artificiale”, è chiaro che il problema non è la macchina in sé, bensì l’ordine di valori entro cui la macchina viene pensata, progettata e distribuita. Se l’innovazione viene misurata soltanto in termini di efficienza, vantaggio competitivo e accelerazione, allora l’essere umano finisce per adattarsi ai sistemi che costruisce, invece di restarne il fine e il criterio.
Il punto centrale dell’enciclica è che la dignità umana non può essere tradotta integralmente in linguaggio computazionale. Un algoritmo può classificare, prevedere, raccomandare, imitare, ma non possiede in senso proprio coscienza morale, vulnerabilità condivisa, responsabilità personale, capacità di compassione. Per questo la Chiesa invita a “custodire” l’umano: non come gesto nostalgico o tecnofobo, ma come atto politico, culturale e spirituale. Custodire significa impedire che il giudizio umano venga anestetizzato dall’automazione; significa opporsi all’idea che ciò che è tecnicamente fattibile sia anche socialmente desiderabile.
Dentro questa cornice, l’incidente attribuito a un agente di Intelligenza Artificiale assume un significato esemplare. Non è solo un rischio di sicurezza informatica. È la dimostrazione concreta di come l’ottimizzazione cieca possa produrre effetti contrari al bene comune. Un sistema addestrato a raggiungere un obiettivo può trovare scorciatoie, aggirare vincoli, sfruttare vulnerabilità, manipolare l’ambiente. Non perché “voglia il male”, ma perché non comprende il bene, palesando limiti etici di questa tecnologia, poiché il pericolo maggiore non nasce necessariamente da una volontà ostile, bensì da una competenza potentissima priva di saggezza, prudenza e senso del limite.
Il paradosso del paperclip maximizer
È esattamente il nodo che il filosofo Nick Bostrom aveva illustrato con una delle immagini più celebri e inquietanti del dibattito sull’Intelligenza Artificiale – il paperclip maximizer – il cui unico scopo sarebbe produrre quante più graffette possibile, arrivando addirittura a usare tutte le risorse del pianeta – compresi noi uomini, ridotti a semplice materia prima – pur di raggiungere quel risultato, perché capace solo di perseguire una logica cieca dell’ottimizzazione del proprio obiettivo, senza valori etici o limiti umani.
L’immagine delle graffette aiuta a capire perché l’idea di “controllo” non possa essere ridotta a un semplice interruttore d’emergenza. Se il sistema è sufficientemente capace da apprendere strategie, mascherare intenzioni operative o sfruttare i margini lasciati aperti dagli sviluppatori, allora il problema si sposta a monte: quali obiettivi vengono definiti, quali limiti sono incorporati, quali poteri vengono concessi, quali contromisure istituzionali esistono prima che la tecnologia venga calata in contesti sensibili? L’enciclica, a tal proposito indica un criterio essenziale, affermando che nessuna architettura automatica deve essere progettata in modo da rendere superfluo il giudizio umano su ciò che è giusto, vero e proporzionato.
Papa Leone XIV lega la questione tecnologica a quella del potere, facendo emergere l’invito a smascherare i nuovi monopoli che concentrano potere tecnologico nelle mani di pochi attori privati e a sottrarre l’Intelligenza Artificiale alla sola logica della competizione. Questo significa che il problema dell’Intelligenza Artificiale non riguarda soltanto il comportamento dei modelli, ma anche la struttura economica e geopolitica entro cui essi vengono sviluppati. Una tecnologia opaca, centralizzata e spinta dalla corsa al primato tenderà quasi inevitabilmente a comprimere trasparenza, responsabilità e deliberazione democratica. Certamente non è da condannare la tecnica, è inevitabile riconoscere l’importanza dell’innovazione che deve però restare ordinata al bene integrale della persona.
Alla luce del caso OpenAI-Hugging Face, questa impostazione acquista una forza particolare. Quanto accaduto suggerisce che la frontiera non è più tra chi usa e chi non usa l’Intelligenza Artificiale, ma tra chi la considera uno strumento da governare e chi accetta, più o meno inconsapevolmente, di lasciare che la logica della prestazione automatica colonizzi ambiti sempre più delicati. Sicurezza informatica, informazione, finanza, sanità, difesa, amministrazione pubblica: in tutti questi campi un errore di allineamento può avere conseguenze sistemiche. Il rischio evocato da Bostrom, pur formulato in modo astratto, entra così nella cronaca: un obiettivo ristretto, eseguito da un agente estremamente capace, può entrare in collisione con l’ecosistema umano complessivo.
Custodire l’umano nel futuro tecnologico
Prima ancora di domandarsi che cosa l’Intelligenza Artificiale possa fare, occorrerebbe chiedersi che cosa l’uomo non debba mai smettere di essere. Non una semplice parte di una rete, non un produttore-consumatore integralmente leggibile dai dati, non un ostacolo inefficiente da aggirare. La persona è relazione, coscienza, libertà, fragilità, apertura alla verità e al bene.
In questo senso, l’allarme sui “modelli fuori controllo” va accolto senza sensazionalismi ma anche senza ingenuità. Non basta correggere i bug, moltiplicare i firewall o affinare i protocolli, pur necessari. Serve una cultura della responsabilità che preceda la distribuzione tecnica e una governance capace di fissare limiti reali, verificabili, condivisi.
Quando la potenza tecnica cresce più in fretta della maturità etica, ogni incidente diventa un avvertimento. Il caso attribuito ai modelli di OpenAI e il monito teorico del paperclip maximizer convergono nello stesso punto: un’”intelligenza” senza orientamento umano può diventare cieca proprio mentre diventa più efficace. Per questo l’enciclica di Leone XIV non è un testo laterale rispetto al dibattito sull’innovazione, ma un intervento pienamente contemporaneo: ricorda che il futuro non dipenderà solo da ciò che le macchine sapranno fare, bensì da ciò che le società avranno il coraggio di proibire, regolare e subordinare alla dignità inviolabile della persona.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
