Molto spesso, nelle discussioni che ineriscono le implicazioni etiche dell’Intelligenza Artificiale, si avverte una certa preoccupazione di mettere in guardia dal pericolo che essa possa essere considerata una black-box, cioè un “sistema” al quale vengono forniti degli input (dati) da cui scaturiscono degli output (risultati), indipendentemente dai gestori umani, con l’impossibilità di comprenderne perfino il funzionamento interno. Paradossalmente, proprio questa capacità di fornire esiti attraverso elaborazioni impreviste e imprevedibili, ha decretato il successo e l’utilizzo diffuso della nuova tecnologia.
Proprio allo scopo di comprendere il funzionamento interno dell’Intelligenza Artificiale, si sta sempre più sviluppando la XAI (Explainable Artificial Intelligence)[1], che, sostanzialmente, è un insieme di processi e metodi, che consentono agli utenti umani di comprendere meglio gli output generati mediante algoritmi di machine learning.
Investire tempo e risorse per comprendere i meccanismi di funzionamento dell’Intelligenza Artificiale, permetterebbe di poterne garantire il governo da parte dell’essere umano che è, e resta, l’inventore, il produttore e il fruitore di questa tecnologia avanzata, evitando, così, il temuto rischio di uno sviluppo tecnologico autogenerativo, finalizzato probabilmente alla sola massimizzazione del profitto di chi detiene i mezzi, a scapito del bene comune delle persone.
La “spiegabilità” dell’Intelligenza Artificiale è stata rilanciata, quale argomento di ricerca, a motivo della necessità di trasmettere agli utenti, attuali e potenziali, sicurezza e fiducia nel «come» e nel «perché» dei processi decisionali automatizzati, presenti in diverse applicazioni e attività finora soltanto di tipo antropico, come la guida autonoma di una vettura, la diagnosi o la terapia medica, il monitoraggio e la gestione delle fonti energetiche tradizionali e rinnovabili, o le attività bancarie, assicurative e finanziarie.
La comprensione e l’implementazione della XAI sono state, perciò, riprese in diverse linee di ricerca sia pubbliche che private, in particolare nei sistemi esperti nell’apprendimento automatico, nei possibili approcci all’apprendimento e al ragionamento neurale-simbolico nei diversi campi della cultura umana e della società.
I metodi della XAI risultano ormai ampiamente applicati in diversi campi, tra cui la finanza, dove istituzioni, come banche e società di investimento, sfruttano l’Intelligenza Artificiale per automatizzare i loro processi, ridurre i costi, anche di personale umano, migliorare la sicurezza del servizio ed ottenere un vantaggio competitivo nei mercati. In questi casi, gli algoritmi vengono utilizzati per cercare di prevedere il rischio di credito, rilevare frodi e diagnosticare portafogli di investimento, al fine di ottimizzarne le performances. Tale applicazione richiede, quindi, trasparenza e “spiegabilità”, assai rilevanti, ad esempio, nel caso dei mutui bancari: qualora la richiesta di prestito di un cliente venisse respinta, la banca dev’essere in grado di fornire una motivazione chiara e comprensibile, al fine di non mettere se stessa a rischio di sanzioni normative e, in tal modo, minare la fiducia dei clienti e dei mercati.
Allo scopo di evitare che, all’Intelligenza Artificiale, vengano attribuite caratteristiche simil-umane, che potrebbero portare a incomprensioni e aspettative irrealistiche, Luciano Floridi – nel suo recente articolo «AI as Agency without Intelligence: On Artificial Intelligence as a New Form of Artificial Agency and the Multiple Realisability of Agency Thesis», pubblicato dalla Rivista Philosophy and Technology[2] –, suggerisce un modello che considera l’Intelligenza Artificiale come una forma di “Agenzia Artificiale”, cioè priva di intelligenza nel senso umano tradizionale. Questa visione prospetta un futuro in cui l’Intelligenza Artificiale e l’umanità cooperano sinergicamente, in modo complementare (sinergia tra artefice e artificio). Mentre l’Intelligenza Artificiale eccelle nelle operazioni su larga scala e nelle funzioni ripetitive, gli esseri umani apportano le caratteristiche della creatività, intuizione, simbolismo ed empatia. Questa sinergia avrebbe effetti rivoluzionari particolarmente nel settore finanziario, così come negli ambiti della sanità, dell’educazione e dell’industria, creando un equilibrio tra automazione e supervisione umana.
Il Prof. Floridi, a conclusione del suo articolato paper, sostiene che «lo sviluppo di un’Agenzia Artificiale può massimizzare i suoi benefici, mitigare i rischi potenziali e garantire l’allineamento con i valori umani, gli obiettivi della società e la sostenibilità ambientale»[3], come analogamente già sostenuto dalla Nota vaticana Antiqua et Nova, la quale, riferendosi alle realtà digitali, auspicava «un cammino comune caratterizzato da valori e speranze condivisi» (n. 65)[4].
Immagini generate tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
[1] Cf. L. Longo (Ed.), Explainable Artificial Intelligence, Springer Nature Switzerland, Cham (2023), pp. 48-65.
[2] Cf. L. Floridi, AI as Agency without Intelligence: On Artificial Intelligence as a New Form of Artificial Agency and the Multiple Realisability of Agency Thesis. Philosophy and Technology 38, 30 (2025).
[3] Ivi, 27.
[4] Cf. https://www.vatican.va/roman_curia/congregations/cfaith/documents/rc_ddf_doc_20250128_antiqua-et-nova_it.html.
