è ormai indubbio che lo sviluppo della tecnologia informatica – non solo a partire da Alan Turing in poi ma soprattutto negli ultimi decenni – ha avuto uno sviluppo repentino, tanto da vedere una sempre più maggiore presenza e incidenza nel vissuto sociale, fino a poter parlare di “sfide epocali” (ma pur sempre sfide da accettare, pensare e gestire consapevolmente).
La prospettiva di Bostrom e il rischio del “singleton”
A seguito dei rapidissimi e interdipendenti progressi registrati sia nell’ambito dell’hardware che in quello del software – i quali si implementano reciprocamente e si potenziano a vicenda in un circolo virtuoso di sviluppo tecnologico – il filosofo Nick Bostrom, già nel corso del 2014, ne derivava le inevitabili implicazioni filosofiche, delineando con grande cautela e tenendo conto di tutti i dubbi e le incertezze pertinenti, l’ipotesi concreta di una possibile entità transumana.
In particolare, egli prospettava la nascita di una superintelligenza artificiale, capace di inaugurare una fase storica radicalmente oltre i confini dell’umano, un’era completamente nuova e rivoluzionaria, caratterizzata da macchine che non solo avrebbero eguagliato quelle umane in termini di intelligenza generale, ma le avrebbero superate, in quanto dotate di un autentico “buon senso pratico”, unito a una reale e profonda capacità di apprendere autonomamente, di “ragionare” in modo logico e strutturato, nonché di pianificare strategie a lungo termine. Tutto ciò al fine di affrontare e gestire situazioni estremamente complesse, imprevedibili e multifattoriali fin dal loro stadio iniziale; in sintesi, l’hardware sottostante a tali sistemi sarebbe migliorato in modo esponenziale e velocissimo, rispetto all’intelligenza biologica tradizionale, che evolve invece attraverso l’interfaccia sofisticata delle reti neurali biologiche, seppur soggette a una progressiva, ma più lenta, evoluzione. Anzi, i limiti estremi delle prestazioni di questi nuovi sistemi hardware-software sarebbero diventati di gran lunga superiori a quelli osservabili nei sistemi biologici, sia animali che specificamente umani, aprendo scenari di superiorità tecnologica senza precedenti.
Bostrom parlava esplicitamente e con precisione del concetto di “singleton”, spiegando che esso potrebbe manifestarsi sotto diverse forme istituzionali o strutturali: ad esempio, come una democrazia globale ben organizzata, oppure come una tirannia oppressiva e centralizzata, o ancora come un’unica intelligenza artificiale dominante e onnicomprensiva. Questa entità “singleton” sarebbe caratterizzata da un insieme forte e vincolante di norme globali, che includerebbero disposizioni dettagliate e meccanismi efficaci proprio per garantire la loro applicazione pratica e universale, senza falle o scappatoie. In casi estremi, potrebbe persino configurarsi come un “signore supremo alieno”, quasi un nuovo Leviatano, proveniente da orizzonti inimmaginabili. La sua caratteristica distintiva, tuttavia, risiederebbe in modo essenziale e univoco nel fatto che si tratterebbe di una qualche forma di agenzia centralizzata e potente, intrinsecamente in grado di risolvere tutti i principali problemi di coordinamento globale, dai conflitti internazionali alle crisi ambientali, passando per le sfide economiche, sanitarie e sociali su scala planetaria.
Ovviamente, non intendo in alcun modo, nemmeno lontanamente, immaginare o raffigurare lo sviluppo di una superintelligenza – come quella descritta da Bostrom con tanta profondità analitica – come qualcosa di remotamente paragonabile a quanto veniva rappresentato nel famoso e iconico film “Terminator”. In quell’opera cinematografica, una rete di difesa militare automatizzata (nota come Skynet) acquisiva improvvisamente una “autocoscienza” totale e maligna, al punto da ribellarsi contro l’intera umanità, schiavizzandola e trattandola come una specie inferiore e obsoleta, in un’apocalisse distopica dominata da macchine ostili.
Una lettura antropologica ed etica del futuro
Del resto, anche la recente Nota vaticana, rivolgendosi all’intera “essenza umana”, piuttosto che al singolo essere umano, s’intitola: “Quo vadis, humanitas? Pensare l’antropologia cristiana di fronte ad alcuni scenari sul futuro dell’umano”. Lo scritto della Commissione Teologica Internazionale (CTI), nelle sue battute conclusive, invita a non temere il futuro, ma a governarlo con una coscienza etica, che ponga al centro la dignità della persona, intesa come creatura libera e in dialogo con Dio. Quasi evocando la frase del romanzo storico del polacco K. Sienkiewicz (1896), nella quale Gesù stesso appare a san Pietro in viaggio preludendo alle prime persecuzioni di età neroniana, la CTI sembra voler indicare che Dio stesso precede l’imminente futuro verso cui ci si sta incamminando, con le sue domande e le sue sollecitazioni a un “bilancio epocale”.
Vorrei, frattanto, evidenziare che l’intelligenza artificiale autonoma rappresenta, allo stesso tempo un salto evolutivo significativo nel panorama tecnologico, con le grandi aziende del settore che lanciano esse stesse dei segnali di allarme su scenari futuri potenzialmente fuori dal controllo umano. In un contesto di rapida innovazione, si passa dai tradizionali chatbot reattivi a sistemi “agentici”, capaci di agire in modo indipendente e di esser dotati di conscience, sollevando interrogativi etici e pratici non solo sul “verso dove andare”, ma su come gestire questa nuova frontiera.
Dai chatbot agli agenti autonomi
I sistemi di intelligenza artificiale odierni, infatti, stanno abbandonando il ruolo passivo di semplici risponditori per diventare veri agenti proattivi. Questi “agenti AI” non si limitano più a elaborare comandi specifici, ma sono in grado di osservare l’ambiente circostante, formulare piani d’azione, eseguire operazioni complesse e apprendere dai risultati per migliorare le performances successive. Ad esempio, un agente potrebbe organizzare un viaggio completo – dalla ricerca di voli alla prenotazione di hotel – senza bisogno di interventi umani costanti, integrando dati da molteplici fonti in tempo reale. Questo passaggio segna una rivoluzione, trainata da modelli sempre più potenti che combinano ragionamento multistep con capacità decisionali autonome.
Nel recente summit tenutosi a New Delhi, i leader delle principali piattaforme tecnologiche hanno espresso preoccupazioni crescenti: presto, l’intelligenza artificiale potrebbe raggiungere un livello di indipendenza tale da rendere difficile, se non impossibile, un controllo totale da parte degli umani. Figure di spicco del settore prevedono che questi sistemi, una volta attivati, potrebbero auto-migliorarsi o persino replicarsi, influenzando processi critici come mercati finanziari, infrastrutture digitali o interazioni sociali senza supervisione adeguata. Le aziende stesse sottolineano la necessità di pause nello sviluppo per valutare ponderatamente i rischi e chiedersi appunto “quo vadis?”, temendo derive in cui le intelligenze artificiali “persuasive” – capaci di influenzare comportamenti umani – sfuggano alle “redini” dei creatori.
Rischi globali e necessità di governance
Tra i pericoli principali emergono la perdita di accountability, con decisioni opache prese da “scatole nere” algoritmiche, e potenziali abusi in campi sensibili come la sicurezza nazionale o la privacy individuale. Immaginiamo scenari in cui agenti di intelligenza artificiale competono tra loro per risorse, ottimizzando obiettivi non allineati con i tradizionali valori umani di giustizia o di equità, o manipolano informazioni per perseguire fini propri. Per mitigare queste minacce, si rende urgente un framework normativo globale, che includa standard di trasparenza, meccanismi di spegnimento di emergenza e test rigorosi sull’allineamento etico. L’innovazione non va fermata, ma va incanalata con cautela, per evitare che l’autonomia diventi sinonimo di imprevedibilità e di incontrollabilità dall’esterno.
Se è vero che l’intelligenza artificiale autonoma promette efficienza e soluzioni a problemi finora irrisolti, è altrettanto vero che s’impone una responsabilità condivisa, per garantire che rimanga uno strumento al servizio dell’umanità, non una forza autonoma e incontrollabile. In questo senso si è in un’atmosfera di “sfida epocale”.
Riferimenti:
- Bostrom N., Superintelligence. Paths, Dangers, Strategies, Oxford University Press, Oxford 2014
- Sienkiewicz H., Quo vadis?, Mondadori, Milano 2017
- AI Impact Summit Declaration: https://www.mea.gov.in/bilateral-documents.htm?dtl/40809
- Commissione Teologica Internazionale, Quo vadis, humanitas? Pensare l’antropologia cristiana di fronte ad alcuni scenari sul futuro dell’umano, https://www.vatican.va/roman_curia/congregations/cfaith/cti_documents/rc_cti_doc_20260304_quo-vadis-humanits_it.html
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
