Considerazioni preliminari
Negli ultimi decenni si rileva una proliferazione di etiche speciali, ossia di declinazioni dell’etica generale applicata a settori specifici. L’idea è più che accettabile perché da sempre è noto che nelle diverse circostanze si richiedono specificazioni peculiari rispetto al canone generale. Tuttavia, al riguardo bisogna mantenere cautele, per evitare che le specificazioni travolgano l’impianto di fondo che caratterizza ogni etica. Fra le recenti etiche speciali troviamo: la bioetica, l’etica degli affari, l’etica bancaria, l’etica delle relazioni internazionali, l’etica legale, l’etica militare, l’etica delle sperimentazioni e via dicendo. Ultima nata in questa prospettiva è l’algoretica che ora sta riscuotendo un certo successo e interesse anche perché il termine è stato usato da personalità di rilievo.
Origine del termine e ambito considerato
Il termine “algoretica” è un neologismo che pare sia stato coniato[1] nel 2017 dal giurista e filosofo Luigi Lombardi Vallauri, che oltre a reclamarne la paternità ha precisato che “Bioetica e roboetica si possono allora unificare nel concetto di algoretica: l’algoritmo biologico si riflette nell’algoretica umana, animale e ambientale, cioè l’etica del vivente, del bios; l’algoritmo non biologico si riflette nell’algoretica dei robot e dei sistemi di Intelligenza Artificiale; ossia nell’etica concernente gli algoritmi stessi”[2]. L’uso del termine si è diffuso rapidamente in ambito italiano, pur senza un significato preciso che ne chiarisse l’ambito di riferimento. Un contributo alla diffusione del termine algoretica è stato dato da Paolo Benanti, che sulla scia di Lombardi Vallauri a proprio modo ha affermato: “Abbiamo bisogno di un’algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male. Dobbiamo codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile dalle macchine. Perché quella delle IA sia una rivoluzione che porta a un autentico sviluppo, è tempo di pensare un’algor-etica”.[3] Secondo Benanti, l’algoretica diventa necessaria per via dei rischi legati all’IA: scrive infatti che “Le implicazioni sociali ed etiche delle IA e degli algoritmi rendono necessaria tanto un algor-etica quanto una governance di queste invisibili strutture che regolano sempre più il nostro mondo per evitare forme disumane di quella che potremmo definire una algo-crazia”.[4] In questa accezione il termine algoretica si sovrappone al termine machine ethics[5] usato in Informatica, vale a dire un’etica che, inclusa nel programma dotato di autonomia, ne regoli il comportamento; è la disciplina che realizza “controllori etici autonomi”; cioè algoritmi all’interno di altri algoritmi che dicono alle macchine autonome come si debbono comportare (perché il loro comportamento sia eticamente accettabile). E rientra nel termine più generale computer ethics[6], che indica come debbano comportarsi i programmatori, o come debbono essere fatti gli algoritmi eticamente accettabili.
Nel discorso di Papa Francesco al G7 di sabato 14/06/2024 il termine “algoretica” sembra assumere una sfumatura diversa, come catalizzatore di una posizione etica comune riguardo almeno ai principi se non è possibile convergere sui valori per moderare gli algoritmi: “La decisione etica, infatti, è quella che tiene conto non solo degli esiti di un’azione, ma anche dei valori in gioco e dei doveri che da questi valori derivano. Per questo ho salutato con favore la firma a Roma, nel 2020, della Rome Call for IA Ethics[7] e il suo sostegno a quella forma di moderazione etica degli algoritmi e dei programmi di intelligenza artificiale che ho chiamato ‘algoretica’. In un contesto plurale e globale, in cui si mostrano anche sensibilità diverse e gerarchie plurali nelle scale dei valori, sembrerebbe difficile trovare un’unica gerarchia di valori. Ma nell’analisi etica possiamo ricorrere anche ad altri tipi di strumenti: se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere. Per questa ragione è nata la Rome Call: nel termine ‘algoretica’ si condensano una serie di principi che si dimostrano essere una piattaforma globale e plurale in grado di trovare il supporto di culture, religioni, organizzazioni internazionali e grandi aziende protagoniste di questo sviluppo.”
Che dire dell’algoretica? È l’algoritmo il livello giusto di analisi?
Le osservazioni sopra riportate portano a credere che l’algor-etica sia l’etica dell’algoritmo, ma anche l’etica codificata dentro l’algoritmo come unico punto di azione. In altre parole, alla base dell’algor-etica sta l’algoritmo, sovrano della prospettiva. Per capire che cos’è l’algor-etica bisogna quindi capire l’algoritmo. Ma che cos’è un algoritmo? È una sequenza di passi eseguibili meccanicamente per raggiungere uno scopo. È in un certo senso una entità astratta, qualcosa come un numero. Mentre il numero indica una quantità, un algoritmo indica un ‘insieme di regole per la risoluzione di un calcolo numerico’ e, per estensione, un ‘metodo o procedimento matematico per la risoluzione di un problema’. In questa prospettiva un algoritmo è implementabile in un infinito numero di programmi che, anche in diversi linguaggi di programmazione, riescono a raggiungere lo stesso scopo ma in modo diverso (ad es., diversa efficienza, complessità, comprensibilità, possono contenere bachi, non terminare o non funzionare in tutti i casi previsti, ecc.).
Per questo molte giurisdizioni non ammettono il brevetto di algoritmi, e dove è ammesso l’algoritmo va descritto come parte di un processo pratico che produce un risultato tecnico concreto e utile.
D’altro canto, non bisogna dimenticare che un programma[8] può essere composto da milioni di righe di codice, scritto in collaborazione da migliaia di programmatori divisi in ruoli diversi: quando realizzato un programma è proprietà intellettuale di una azienda (o è rilasciato liberamente con una licenza open-source), e per essere sviluppato può richiedere computer composti da migliaia di GPU (le GPU sono i processori specializzati per l’IA, necessari ad esempio nella fase di addestramento di un LLM), e va a costituire il patrimonio dell’azienda che lo crea, e la (o una) fonte dei sui profitti. Ad ogni buon conto, sia per essere fonte di profitto sia per altri effetti, un programma e non l’algoritmo è ciò che ha un impatto sulla società e può quindi essere considerato un “evento sociale”.
Nonostante vi sia una connessione tra algoritmi e programmi, resta il fatto che i programmi sono eseguiti da macchine (hardware o virtuali), mentre gli algoritmi no, sono “invisibili strutture”. Questo è un punto centrale, perché il voler puntare a regolare l’etica o un’etica su un algoritmo, invece che su un programma, è come regolare i numeri anziché i prodotti industriali costruiti in base a modelli matematici.
Nel momento però in cui si considera l’algor-etica “un modo che renda computabili le valutazioni di bene e di male”, e si codificano “principi e norme etiche in un linguaggio comprensibile e utilizzabile dalle macchine”[9] si sta ammettendo che l’etica possa essere ridotta ad un algoritmo, posizione controversa e con importanti implicazioni. Un’etica riducibile ad un algoritmo implica che l’etica dipende dalla sola razionalità ed è riducibile ad un insieme di numeri, posizione non conciliabile con quella di chi vede per l’essere umano un ruolo speciale nel creato.
Vogliamo inoltre fare notare che oggigiorno alcune macchine intelligenti non hanno più bisogno di una codifica dell’etica in un linguaggio (di programmazione) diverso dal linguaggio naturale a loro comprensibile, perché i Large Language Model come GPT4 (il motore dietro ChatGPT) e simili, “comprendono” direttamente il linguaggio degli umani in tutte le lingue e quindi hanno probabilmente avuto accesso nella fase di apprendimento a tutti i testi sacri del mondo e alla maggior parte dei testi di filosofia. Purtroppo, i risultati di questo apprendimento dal punto di vista etico sono controversi[10].
L’uso del termine “algoritmo” come oggetto dell’analisi etica è complicato anche dal fatto che i sistemi di IA moderni sono basati sull’apprendimento automatico e in particolare sul “deep learning” neurale e di fatto “creano”, si potrebbe dire, un nuovo algoritmo o programma durante la fase di apprendimento, a partire dal programma originario di addestramento della rete neurale che ottimizza solamente i parametri della rete neurale sulla base dei dati di addestramento. A questa complicazione si aggiunge infatti la limitata spiegabilità di questi sistemi, almeno allo stato dell’arte della tecnologia. I modelli di deep learning funzionano come scatole nere (“black box”), dove l’interazione complessa tra miliardi di parametri rende difficile capire esattamente come vengono prese le decisioni. Ciò significa che le decisioni e i processi interni del modello non sono facilmente accessibili o interpretabili dagli esseri umani. Questo rende difficile modificare i modelli a posteriori per renderli eticamente trasparenti, cioè per “computare le valutazioni di bene e di male” e “codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile” dalle macchine stesse. A differenza dei programmi tradizionali, che eseguono istruzioni fisse e prevedibili, i modelli di deep learning possono comportarsi in modi non anticipati in nuove situazioni, rendendo ancora più complesso il compito di garantire che operino in modo eticamente responsabile. Diventa quindi difficile, anche se fosse possibile rendere “computabili le valutazioni di bene e di male”, “codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile” da queste macchine, perché non sono programmabili nel senso tradizionale del termine.
Una volta addestrato, un modello di deep learning non può essere facilmente modificato senza alterare il suo comportamento complessivo. A dimostrazione di questo fatto, l’allineamento dei large language model alle nostre preferenze avviene per mezzo di una ulteriore fase di addestramento supervisionata basata su esempi di risposte “corrette” fornite da esseri umani (reinforcement learning from human feedback – RLHF).
Né basta il neologismo “algo-crazia”, introdotto da A. Aneesh[11], per risolvere il problema. Perché il termine “algocrazia” a ben vedere finisce in pratica con lo spostare il problema, con il nascondere molti aspetti legati all’IA come “potere” (capace di azioni coercitive sulle persone), aspetti che non si esauriscono negli algoritmi, come ha ben evidenziato Kate Crawford in Atlas of IA: l’IA come potere coinvolge infatti ulteriori aspetti diversi che vanno oltre l’algoritmo, aspetti che riguardano temi che spaziano da quelli geopolitici sul possesso delle risorse minerarie come le terre rare, alla raccolta di finanziamenti trillionari per la costruzione di nuovo hardware per l’IA, alla competizione con le università per assicurarsi le competenze migliori, alla cattura del regolatore, e via dicendo. In altre parole, anche l’algocrazia, pur se concetto molto più complesso di algoritmo e non equiparabile, nasconde una prospettiva più ampia sui problemi in corso. Per questo dobbiamo tornare a vedere se l’algoritmo sia il giusto livello di analisi o se invece si debba guardare altrove.
Cosa implica focalizzarsi sull’algoritmo e perché è sbagliato basare l’etica sull’algoritmo
È in generale dubbio e tema controverso che una tecnologia sia neutra, perché le modalità con cui si persegue un obiettivo possono influenzare l’obiettivo stesso, cosicché le procedure di esecuzione diventano soggette a valutazioni. Ma il problema diventa più acuto circa l’algor-etica, per il fatto che l’algoritmo è concetto astratto (una sorta di idea platonica) che per diventare concreto e avere un impatto sulla realtà abbisogna di materializzarsi in programmi concreti formulati da specifici attori che fanno azioni, come i programmatori, le aziende ICT, gli sviluppatori di hardware coinvolti in processi che hanno effetti ambientali, le banche o i fondi finanziari che forniscono denaro, etc. Insomma, l’algoritmo è un po’ come il ghiaccio sintetico, che in un senso c’è già nella confezione sottovuoto ma che per diventare freddo necessita del contatto con l’ossigeno e di altri aspetti materiali: quelli che prendono corpo nel “programma” concreto.
A titolo esemplificativo, possiamo ricordare recenti fatti che mostrano come i programmatori possono avere un ruolo importante (forse decisivo) nell’implementazione dei programmi: impiegati di Google si sono opposti al Project Maven del governo USA, o altri sono stati contro la collaborazione con Israele per applicazioni militari. I programmatori possono avere una parola e prendere posizione su aspetti etici dei programmi che realizzano. Altri discorsi simili nella direzione cominciano a essere fatti dai “fondi etici” interessati a valutare la natura e le implicazioni concrete del programma.
L’insistenza che oggi viene posta sull’algoritmo, visto come il Sole al centro della scena e che irradia la propria luce su tutto, e la contemporanea sottovalutazione degli aspetti pratici implicati dal programma sono punti che fanno pensare. Non è che è in atto un’operazione retorica tesa a proporre una narrativa pubblica che presenta l’IA come qualcosa di astratto, di positivo e di pressoché ineluttabile, quasi che le grandi Big Tech siano esenti da ogni responsabilità circa gli scenari implementati? Altri indizi in questo senso sono l’estrema soggettivazione dell’IA quale supposto attore nelle dinamiche sociali e la preminenza dell’enfasi posta sui potenziali rischi posti dall’IA alla stessa esistenza (sopravvivenza) della specie umana. Nel primo caso, si usa l’argomento articolato in frasi come “l’IA toglierà posti di lavoro” -invece a licenziare sono imprese (concrete e precise) che usano l’IA per l’automazione di task e ridurre i costi di personale – mentre nell’altro caso si toglie spazio o non si dà spazio ai rischi che già ora sono in atto: l’automatizzazione della disinformazione, l’impatto ambientale, lo sfruttamento dei lavoratori che etichettato i dataset per il training, ecc.
La sinergia tra i vari aspetti sopra ricordati fa pensare che l’enfasi assegnata agli algoritmi (invece che ai programmi e alle loro applicazioni) sia al fondo dettata da una sorta di “utilità politica”, dal momento che la narrativa algoritmo-centrica permette di fissare il discorso sul concetto astratto di algoritmo, distogliendo l’attenzione dai vari attori concreti i cui interessi devono rimanere in ombra (forse perché non si vogliono toccare). Per esempio, un “programma” comporta un uso di ingenti risorse (umane, territoriali, finanziarie, etc.) che creano dinamiche tali per cui un governo deve mediare fra gli interessi delle Big Tech e il bene comune dei cittadini: tema che va posto e non può essere demandato (o occultato) dietro il concetto di algoritmo.
Proprio perché gli aspetti concreti (economico-sociali, ma anche ecologici e materiali) non possono essere ignorati, un’analisi filosofica dei problemi etici posti dall’IA non può limitarsi all’esame degli algoritmi. Bisogna allargare l’analisi, e per questo il termine stesso algoretica pare inadatto al compito. L’etica dell’IA va al di là delle possibili interpretazioni del termina algoretica perché riguarda come la società, le imprese, e gli individui si debbono comportare nello sviluppare, diffondere e usare l’IA (e quindi va al di là dell’etica delle macchine e dei programmatori).
Ci sono altre ragioni che portano a questa conclusione: dopo aver esposto quelle che mostrano i limiti di “algor-etica”, veniamo a dare alcuni spunti per una proposta diversa.
Perché etica dell’IA
L’algoretica non è sufficiente quando considera l’etica come qualcosa che si occupa di un oggetto che sta in un Iperuranio esterno e estraneo alle condizioni concrete della vita reale. Sulla scorta di questo tacito assunto c’è il rischio che si venga a riproporre una sorta di “etica tradizionale” che non tenga conto né delle innovazioni intervenute né dei cambiamenti di circostanze storiche che le innovazioni producono. A questo proposito è opportuno ricordare che anche l’etica generale ha già comportato cambiamenti significativi, sollecitati dalle etiche speciali, e quindi è pensabile che qualcosa di simile capiti anche ora con “l’etica dei programmi intelligenti”. Per esemplificare: la Rivoluzione industriale ha dato inizio alla “più grande trasformazione dell’umanità di cui abbiamo documenti scritti” (Hobsbawm), in quanto il controllo del mondo inorganico ha consentito nuove forme di relazioni sociali, ponendo le basi per la fine dell’aristocrazia e l’avvento della “sovranità popolare”. Mentre già nel XVIII secolo crollava l’Assolutismo in ambito sociale e politico, e la “etica politica” sollecitava la fine dei divieti etici assoluti (che non ammettono eccezioni) in ambito sociale, un filosofo come I. Kant ribadiva la tesi tradizionale dicendo che l’imperativo etico della moralità generale è quello categorico (cioè assoluto). Questa tesi è rimasta per meno di due secoli, quando la Rivoluzione biomedica ha consentito il controllo del mondo organico e l’idea che tutti i divieti siano prima facie (cioè, valgono a prima vista e ammettono eccezioni: non sono assoluti) si è estesa anche alle relazioni umane private e intime che riguardano la vita biologica.
Ora la Rivoluzione IA propone un ulteriore passo dal momento che si profila la capacità di controllo delle “attività intelligenti”, con la capacità di nuove forme di produzione e di memoria. Il cambiamento che si profila è di magnitudo superiore ai due menzionati, e la sinergia tra i vari settori prospetta un mix che produrrà effetti tanto dirompenti da superare l’immaginazione. È per questo che ci vuole l’IA-etica, per sottolineare l’esigenza di un’etica nuova che abbia definitivamente abbandonato i divieti assoluti e che si apra alla costruzione di nuove prospettive. È a questo sguardo sul futuro che dobbiamo prestare attenzione.
Immagine: Foto di Annie Spratt su Unsplash
[1] “Algoretica. Le due sfide cruciali nell’era tecnologica: bioetica, roboetica”, Atti e memorie dell’Accademia Toscana di Scienze e Lettere «La Colombaria», vol. LXXXII, Firenze 2017 dalla conferenza di Luigi Lombardi Vallauri del 18/5/2017, nell’ambito del ciclo di incontri Roboetica. Per altri significati del termine “algoretica” si può utilmente consultare la voce dell’Accademia della Crusca. Oltre ad avere la paternità del nuovo termine “algoretica”, Lombardi Vallauri più recentemente è intervenuto sul tema (Lombardi Vallauri, L. (2022) «Algoretica e Informatica giuridica», i-lex. Bologna, Italy, 15(1), pagg. 29–35)
[2] Ibid.
[3] Paolo Benanti, Intelligenza artificiale: è tempo di pensare a un’etica degli algoritmi, “7”, “Corriere della Sera”, 25/10/2019.
[4] Paolo Benanti, Oracoli. Tra algoretica e algocrazia, Roma, Luca Sossella editore, 2018.
[5] Moor, James H. “The Nature, Importance, and Difficulty of Machine Ethics.” IEEE Intelligent Systems, vol. 21, no. 4, 2006, pp. 18-21.
[6] Terrell Ward Bynum. K, Computer ethics: Its birth and its future. Ethics and Information Technology 3(2)2001 pp 109–1129
[7] La Rome Call for IA Ethics presuppone la tesi della “brilliance of human race” sul resto del creato. Come SIpEIA abbiamo un approccio diverso che non assume in linea di principio la superiorità e specificità della specie umana.
[8] Usiamo qui per semplicità il termine “programma” piuttosto che “software”, consci che il concetto di “software” include altri aspetti come i dati e le librerie su cui si basa il programma e lo rende in grado di essere eseguito e commercializzato.
[9] Ibid.
[10] Kazuhiro Takemoto. The moral machine experiment on large language models. Royal Society Open Science. 11(2) 2024.
Josh Albrecht, Ellie Kitanidis, Abe Fetterman, Matt Boulos. The state of LLM ethical decision-making. Imbue. 14 Febbraio 2023.
Eyal Aharoni, Sharlene Fernandes, Daniel J. Brady, Caelan Alexander, Michael Criner, Kara Queen, Javier Rando, Eddy Nahmias e Victor Crespo. Attributions toward artificial agents in a modified Moral Turing Test. 30 Aprile 2024.
[11] A. Aneesh, Virtual Migration. The Programming of Globalization, Duke University Press, 2006.
