In un brevissimo periodo di tempo l’umanità ha realizzato un inimmaginabile progresso nelle cosiddette “tecnologie emergenti e convergenti”. Un brevissimo elenco: nel 1991 che appare Google compare il World Wide Web; il GPS, navigatore satellitare, è operativo dal maggio 2000 dopo un decreto del presidente Clinton; il primo I Phone è stato presentato da Steve Jobs nel gennaio 2007; nello stesso anno compare Twitter, mentre Facebook è del 2004 e Instagram è stata lanciata nel 2010. La piattaforma Zoom è stata fondata nel 2011. Il New Space, caratterizzato dall’ingresso dei privati nella corsa allo spazio si è avviato con l’executive order del presidente Obama nel 2015, solo sei anni fa. Nel New Space l’industria spaziale si integra con la digital economy, incrementando il benessere per la vita sulla Terra, dalle comunicazioni ai trasporti, dalla salute all’ambiente.
La velocità della tecnica e il ritardo dell’etica
Di fronte allo sviluppo enorme e velocissimo delle tecnologie, non è stato altrettanto veloce quello della filosofia, dell’umanesimo, dell’etica. L’assenza della dimensione umanistica nel bel mezzo dell’esplosione della tecnica fa emergere questioni rilevantissime che se vogliamo riassumerle in un solo slogan è questo: non tutto ciò che si può fare (con la tecnica) si può fare (dal punto di vista dell’etica). Ne va di mezzo l’umano, appunto, il bene comune dell’umanità.
Dobbiamo sottolineare che la tecnologia non è solo uno strumento: la sua bontà e la sua nocività non dipendono solo dall’uso che ne facciamo, ma da una molteplicità di fattori che spesso non sono immediatamente percepibili. Infatti, i dispositivi che impieghiamo sono ormai parte integrante del mondo che abitiamo, sono praticamente delle componenti inavvertite dell’ambiente in cui siamo inseriti. Negli ultimi anni abbiamo assistito alla trasformazione digitale delle tecnologie; alla produzione di enormi quantità di dati; a una potenza di calcolo sempre maggiore. Tre anni fa, nel discorso ai partecipanti all’assemblea plenaria della Pontificia Accademia per la Vita, il Papa Francesco ci disse: “la galassia digitale, e in particolare la cosiddetta intelligenza artificiale, si trova proprio al cuore del cambiamento d’epoca che stiamo attraversando”. Le sue parole, all’epoca, erano dedicate a salutare la prima sottoscrizione della Rome Call for AI Ethics, una iniziativa della Pontificia Accademia – di cui vi parlerò subito – e servivano per dare un primo contorno a una situazione assai complessa.
Intelligenza artificiale: pervasività, potenza, vulnerabilità
Il tema sulla “intelligenza artificiale” – a parte l’equivoco dei termini: intelligenza artificiale è come dire “legno di ferro” – è ormai di dominio del vasto pubblico. Va chiarito che il termine “intelligenza si lega unicamente al cervello, un organo che si è formato in milioni di anni. E che richiede un corpo, cosa che è impossibile alla macchina. Ma, aldilà di queste considerazioni, è vero che questo strumento è pervasivo, e sempre più presente in innumerevoli settori: l’industria, l’assistenza sanitaria, l’istruzione, l’alimentazione, la sicurezza e molte altre sfere della vita quotidiana. È dovunque e grazie alla sua sempre maggiore potenza si è conquistata un ruolo che tenderà a crescere sempre più nei prossimi anni. Non possiamo non pensare ad esempio alle conseguenze che può avere sulla libertà e la dignità dell’individuo e dell’intera famiglia umana. Un uso scorretto dell’intelligenza artificiale è dannoso per tutti e particolarmente per le fasce più deboli della popolazione: può cambiare, o controllare, o influenzare la vita di tutti e in particolare delle nuove generazioni, degli anziani, dei più poveri.
L’Unione Europea definisce l’intelligenza artificiale (AI) “l’abilità di una macchina di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività”. L’AI permette quindi ad un manufatto tecnologico di comprendere il proprio ambiente, di mettersi in relazione con ciò che percepisce e di risolvere problemi, e soprattutto di agire verso un obiettivo specifico. Il meccanismo sembra semplice: si tratta di immettere nel computer dati (già predisposti oppure raccolti tramite sensori specifici, come una videocamera). Il computer li processa e fornisce una risposta. Il fulcro del dibattito che investe l’intelligenza artificiale – ossia ciò che rende questa specifica tecnologia unica ed enormemente potente – è la sua capacità di agire da sola: l’AI adatta il proprio comportamento a seconda della situazione, analizza gli effetti delle proprie azioni precedenti e lavora in autonomia. I progressi nella potenza dei computer, la disponibilità di enormi quantità di dati e lo sviluppo di nuovi algoritmi, hanno portato l’intelligenza artificiale, negli ultimi anni, a compiere balzi in avanti di dimensioni epocali. Come si può immaginare se le potenzialità sono enormi, anche i rischi lo sono altrettanto.
Interrogativi decisivi e “algoretica”
Ecco alcuni interrogativi cruciali: quale etica sviluppare per avere un impatto reale sulla tecnologia? Come evitare che l’uomo venga tecnologizzato invece che la tecnica umanizzata? Come non diventare succubi della “algocrazia”, ossia del potere degli algoritmi? E come comportarsi di fronte al potere enorme di chi detiene i “data”? Non è sufficiente circoscrivere l’attenzione al controllo dei singoli dispositivi, collegandoli in modo astratto e generico al rispetto dei diritti soggettivi, della dignità della persona umana. Certamente, dignità, giustizia, sussidiarietà, solidarietà sono punti di riferimento irrinunciabili, ma la complessità del mondo tecnologico contemporaneo ci chiede di elaborarne una interpretazione che possa renderli effettivamente incisivi. Appare ormai chiaro che “l’umano” è condizionato in modo tale da “assecondare” il dispositivo di Intelligenza Artificiale, molto più del contrario: è il dispositivo stesso a plasmare l’utente come “degno” e “libero” di farne uso. Il feed-back caratteristico dell’Intelligenza Artificiale è appunto l’alimentazione e la sofisticazione di questo meccanismo selettivo di conformità sociale al dispositivo. Abbiamo parlato di “algoretica”, ossia di controllo della moralità degli algoritmi.
Questo è possibile se si individua un modello di monitoraggio inter-disciplinare per un’etica che sia presente nell’intero percorso in cui intervengono le diverse competenze nell’elaborazione degli apparati tecnologici (ricerca, progettazione, produzione, distribuzione, utilizzo individuale e collettivo). Mediazione ormai indispensabile, vista la capacità della strumentazione dell’Intelligenza Artificiale di determinare vere e proprie forme di controllo e di orientamento delle abitudini mentali e relazionali, e non solo di potenziamento delle funzioni cognitive e operative. Si tratta di elaborare un modello condiviso che consenta di esaminare dai diversi punti di vista le ricadute prevedibili dei singoli momenti del percorso. L’obiettivo è quello di assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine in questa nuova era aperta dalla Intelligenza Artificiale. È questo un compito che richiede disponibilità al dialogo e alla collaborazione.
La Rome Call for AI Ethics: etica, educazione, diritto
Alla luce di queste trasformazioni la PAV iniziò un cammino di riflessione con numerosi interlocutori: accademici, membri della società civile e aziende produttrici di queste tecnologie. Come vi dicevo l’esito di questo cammino ha trovato un suo primo momento di sintesi nella Call. Dopo un preambolo che ne descrive la ragione, la Call si declina in tre prospettive. La prima riguarda l’etica. Questo orizzonte basilare va tradotto nell’impegno per la realizzazione delle condizioni della vita sia sociale sia personale, che permettono tanto ai gruppi quanto ai singoli membri di adoperarsi per raggiungere possibilmente la piena espressione di sé.
Un secondo orizzonte è quello educativo per costruire un futuro per e con le nuove generazioni. Tale responsabilità va tradotta in un impegno educativo che sviluppi curriculum specifici e interdisciplinari tra discipline umanistiche, scientifiche e tecniche, e sappia farsi carico della formazione delle nuove generazioni. L’impegno deve tradursi nel contribuire a migliorare la qualità della formazione dei giovani. L’accesso universale all’educazione deve realizzarsi attraverso principi di solidarietà e giustizia.
Un terzo ambito è giuridico perché lo sviluppo dell’IA a servizio dell’umanità e del pianeta deve tradursi in norme e principi che tutelino le persone, specialmente i deboli e gli ultimi, e gli ambienti naturali. Per realizzare questi obiettivi e dare qualche indicazione più precisa su come operare in modo etico nell’ambito dell’IA, sono stati messi a fuoco alcuni principi:
1) Trasparenza: in linea generale, i sistemi di intelligenza artificiale devono essere spiegabili;
2) Inclusione: i bisogni di tutti gli esseri umani devono essere presi in considerazione in modo che ognuno possa trarne beneficio e a tutti gli individui possano essere offerte le migliori condizioni possibili per esprimersi e svilupparsi;
3) Responsabilità: coloro che progettano e mettono in opera queste tecnologie devono procedere con responsabilità e trasparenza;
4) Imparzialità: evitare di creare o di agire secondo pregiudizi, salvaguardando così l’equità e la dignità umana;
5) Affidabilità: i sistemi di intelligenza artificiale devono essere in grado di funzionare in modo attendibile;
6) Sicurezza e privacy: i sistemi di intelligenza artificiale devono funzionare in modo sicuro e rispettare la riservatezza degli utenti.
Questi principi sono riferimenti fondamentali per una buona innovazione, anche se naturalmente la loro declinazione operativa non è automatica e richiede una continua attenzione. Sottolineiamo come essi siano in sintonia con i documenti elaborati da vari organismi dell’Unione Europea: è molto interessante che siano risultati condivisibili anche da grandi imprese del mondo statunitense, che anzi ne hanno elogiato la validità in diversi contesti.
Alla Rome call hanno aderito negli anni, università, tra cui anche la Sapienza, centri di ricerca, aziende tecnologiche come Microsoft, IBM, Cisco, Qualcomm, Salesforce, e istituzioni molto diverse tra loro. Questa pluralità di soggetti indica che siamo di fronte non a un’iniziativa identitaria, ma a un tentativo di costruire un terreno comune in un contesto segnato da rapide trasformazioni e da crescenti asimmetrie di potere tecnologico.
La sfida posta dall’intelligenza artificiale non riguarda solo il futuro della tecnologia, ma il futuro della responsabilità umana nella scienza. In questo spirito, la Rome Call intende offrire un’occasione di dialogo e di collaborazione, non una risposta preconfezionata. Il futuro dell’intelligenza artificiale non sarà deciso solo dalla potenza degli algoritmi, ma dalla capacità dell’uomo di guidare lo sviluppo tecnologico e non di essere guidato. Si richiede a mio avviso una nuova visione del mondo: tutte le scienze debbono convergere – analogamente alla esperienza sorgiva della universitas scientiarum – dove tutte le scienze si accordino via via nel decidere cos’è l’umano comune da difendere e da promuovere.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
