Premessa
L’avvocato rotale dott. Graziano Mioli ha tenuto la prolusione all’inaugurazione dell’anno giudiziario del Tribunale Ecclesiastico Interdiocesano Flaminio di Bologna con una lectio magistralis sul tema “l’Intelligenza Artificiale nella riflessione ecclesiastica e nel contesto giudiziario matrimoniale canonico”. La sua disamina di un tema così complesso, discusso e in via di perfezionamento, qual è l’Intelligenza Artificiale, costituisce un significativo e utile sussidio per il contesto giudiziario canonico, che si misura con il suo uso pervasivo nell’era tecnocenica.
Algoretica e moralalgo: il ‘sogno/illusione’ dei tecnoentusiasti
Nella riflessione ecclesiale relativa all’IA, si affronta la spinosa questione dell’algor-etica. In proposito mi permetto di proporre alcune perplessità in forma argomentata come contributo costruttivo alla discussione. Si afferma “l’algoretica si focalizza in modo specifico sull’integrazione di principi etici nel design, nell’implementazione e nell’uso degli algoritmi stessi”. Il neologismo è ripreso da Paolo Benanti che parla di algocrazia[1] alla quale andrebbe opposta un’algoretica. Egli ritiene che la nuova generazione di machine sapiens, pur dotate d’IA, possa sbagliare o perseguire fini contro la specie umana. Pertanto, andrebbero “catechizzate” per divenire human centered. Occorre renderle capaci di una computazione etica, mediante la progettazione di un’algoretica, o obbligarle a fermarsi qualora si corra il rischio di prendere decisioni potenzialmente lesive. Insomma, secondo Benanti l’ingegneria del software intelligente dovrebbe organizzarsi computazionalmente in modo da non ledere i diritti umani. Si propone d’introdurre valori etici (umiltà, bene, male) propri della persona umana nella logica computazionale, che opera con architetture complesse, ma basate su supporti di silicio che codificano stati logici “vero-falso”. Si può assimilare l’architettura di una rete neurale artificiale al cervello umano? Non credo che una rete neurale, possa eseguire anche solo metaforicamente un algoritmo “catechizzato”. Non si tratta di promuovere un’IA etica (le reti neurali non hanno un’anima, una coscienza umana, una responsabilità morale), quanto di promuovere un’etica dell’IA.[2] Decidere a priori cosa un’architettura intelligente possa fare e cosa non debba fare, intervenendo sulle reti neurali con opportuni vincoli operativi è impossibile a causa di limiti intrinseci della teoria della computabilità. Inoltre, Benanti auspica macchine capaci di “dubitare di sé stesse”, di “umiltà artificiale”, trincerandosi dietro filosofemi e affermando che il problema è filosofico ed epistemologico.[3]
In proposito, inoltre, occorre ricordare con san Giovanni Paolo II che «una dottrina che dissoci l’atto morale dalle dimensioni corporee del suo esercizio è contraria agli insegnamenti della Sacra dottrina e della Tradizione […]. Infatti, corpo e anima sono indissociabili: nella persona, nell’agente volontario e nell’atto deliberato, essi stanno o si perdono insieme».[4] Inoltre, sarebbe il caso di domandarsi se il principio della razionalità abbia una forma morale? E se la forma morale possa essere unicamente orientata dal progresso della scienza e della tecnologia conseguente?[5] Il progetto dell’IA come ci ricorda papa Benedetto rischia di trasferire nella tecnica, animata da una pretesa prometeica, il tentativo di ri-creare l’uomo e l’umanità.[6]
Riprendendo un report del professor Yoshua Bengio si afferma ancora: “essenzialmente, i guardrails sono le ‘implementazioni valoriali’, definiscono cosa non deve succedere; i safeguards sono le relative ‘implementazione tecniche’, gli strumenti che impediscono, monitorano e bloccano attivamente quella cosa. In altri termini, i guardrails sarebbero i confini stabiliti per l’uso sicuro dell’IA, mentre i safeguards sarebbero i dispositivi attivi e le procedure tecniche integrate nel sistema per far rispettare quei confini: il compito di stabilire quei confini spetta all’algoretica, che quindi opera come fonte di “ispirazione etica” e “forma di moderazione etica degli algoritmi e dei programmi di intelligenza artificiale”. Tale considerazione suscita non poche perplessità. Infatti, nessuna rete neurale implementata da algoritmi di IA può deterministicamente garantire guardrails e safeguards. Le “implementazioni valoriali e tecniche” auspicate sono puramente ipotetiche, perché una rete neurale è opaca (black box) e ha complessità esponenziale,approssimabile con margini di errori non trascurabili solo su base probabilistica. Nessun agente digitale robotico soggettivamente può assumere una decisione morale, libera e responsabile, perché la decisione è meramente probabilistico-statistica. Ogni tentativo di antropomorfizzare il robot comporterebbe una grave violazione dottrinale enunciata dall’enciclica Veritatis Splendor.
La teoria della computabilità ci ricorda che le reti neurali non sono al momento in grado di comprendere il linguaggio naturale. Chi afferma il contrario incorre in una “petitio princípii”, o formula un’asserzione predittiva priva di valore dimostrativo. Le “reti neurali” sono per la loro struttura intrinseca delle black box (scatole nere), dove non è dato sapere come decide l’algoritmo, quali sono le qualità e i limiti specifici dell’IA rispetto all’intelligenza umana, qual è la complessità dei compiti e dell’ambiente dal punto di vista dei sistemi di IA. Inoltre, va richiamato il problema dei bias nella cognizione umana, relativi ai bias nell’IA[7] e i problemi associati al controllo dell’IA. Ancora incerta è la prevedibilità del comportamento dell’IA (decisioni) e la costruzione della fiducia e il mantenimento della consapevolezza della situazione (compliance). E quale deve essere l’allocazione dinamica dei compiti (ad es. assumersi i compiti l’uno dell’altro) e la responsabilità. Si dovrà definire come affrontare le possibilità e i limiti dell’IA nel campo della “creatività” e dell’adattabilità.[8] Ci s’interroga anche sulla “consapevolezza ambientale” e la generalizzazione della conoscenza e su come imparare a gestire i limiti percettivi e cognitivi e i possibili errori dell’IA, che possono essere difficili da comprendere. Quale dovrà essere la fiducia nelle prestazioni dell’IA (possibilmente nonostante la limitata trasparenza o capacità di “spiegare”) sulla base di verifica e convalida. Come imparare a gestire la nostra naturale inclinazione all’antropocentrismo e all’antropomorfismo (“teoria della mente”) quando si ragiona sull’interazione uomo-robot. Come capitalizzare i poteri dell’IA per far fronte ai vincoli intrinseci dell’elaborazione umana delle informazioni (e viceversa). Come comprendere le caratteristiche e le qualità specifiche del sistema uomo-macchina ed essere in grado di decidere quando, per cosa e come la combinazione integrata di facoltà umane e di IA possa funzionare al meglio del potenziale complessivo del sistema.[9]
La ‘toppa’ nuova sul vestito vecchio e il paradosso di Zenone degli algoritmi di IA per il processo canonico matrimoniale
In consonanza con il pensiero del dott. Paolo Rossano Aponte l’autore enuncia alcuni aspetti critici: ripetutamente afferma che il decisore finale è la persona umana e che l’IA è solo uno strumento che coopera alla decisione, mette in guardia dal pericolo della sostituzione, riconosce dei limiti all’applicabilità dell’IA, ammette che l’IA produce “pseudo-verità digitali”. E successivamente affronta, seppur rapsodicamente, i suoi punti critici, ritenendoli “agevolmente superabili”, auspicando un fascicolo del processo interamente digitale con la creazione di un Consiglio diocesano dell’IA e invitando le Conferenze Episcopali a formulare norme chiare e i Dicasteri competenti a compiere la supervisione dottrinale.
Come è ben noto negli agenti digitali robotici la filiera della decisione è opaca, difficilmente decifrabile, anche da esperti del settore, e non assicura l’allineamento tra la responsabilità morale e quella giuridica. Con buona pace di tanti meritevoli ed encomiabili giuristi il contesto giudiziario canonico assistito da software di IA, il cui assetto proprietario è detenuto da cinici multimiliardari, che perseguono il capitalismo della sorveglianza digitale per accrescere il loro patrimonio, è destinata a soccombere. I tanti volenterosi operatori del diritto nella giurisdizione assistita dall’IA, seppur regolata da organismi competenti (Conferenze Episcopali e Dicasteri) dovranno penosamente liberarsi da questo ulteriore gravame per potersi dedicare con senso di responsabilità all’adempimento del loro dovere. Essi non solo risponderanno sotto il profilo penale e civile della loro condotta assistita dall’IA, ma in più saranno gravati di nuove e più complicate incombenze: consenso informato, sorveglianza, validazione, tracciabilità decisionale dell’algoritmo, del quale non conoscono, a motivo della tutela del brevetto, le specifiche del codice sorgente e non conoscono con quali dati è stato addestrato. Mi domando se tutto questo condurrà a un processo più giusto e al trionfo della giustizia canonica? Non si rischia in futuro di ostacolare il rapporto tra operatori del diritto e ricorrenti o imputati in una giurisprudenza canonica assistita da un’IA, che ha il suo domicilio nella Silicon Valley?
Inoltre, si propongono due sperimentazioni esperite nella prassi giudiziaria canonica: Canonicus AI e NotebookLM. Rilevo che la proposta mi sembra segnatamente tecnoentusiasta ed esposta al pericolo della esternalizzazione della decisione assunta dal pensiero unico della classe egemone dei detentori di algoritmi di IA in uso nell’ambito dei canonisti alfabetizzati digitalmente. I software di IA ordinariamente, infatti, finiscono con l’assumere un orientamento ideologizzato, dipendente dalla struttura dell’algoritmo, dalla qualità dei dati di addestramento e dai bias degli addestratori. Sicché decidono senza autonomia e autodeterminazione rispetto al decisore umano.
Infine, molto opportunamente e articolatamente si mette in guardia il lettore dal pericolo dell’antropomorfismo, ritenendolo il veicolo attraverso cui l’ombra del male minaccia la nuova tecnologia. E si auspica una decisa azione di opposizione a tale pericolo. Si istituisce un nuovo neologismo moralalgo, dove la crasi tra il prefisso ‘moral’ e il suffisso ‘algo’ si riferisce all’interazione tra l’umano e l’IA. Se l’algoretica era riferita ai processi della filiera che erano a monte della produzione del software, la moralalgo si colloca a valle dalla parte dell’uomo-agente. In tal senso si auspica un processo di deumanizzazione e di deantropomorfizzazione attraverso l’adozione di un prompt engineering che sviluppi una prammatica del prompt.
L’articolata proposta di avvalersi di un prompt di sistema per la deantropomorfizzazione dell’IA come misura preventiva rischia di fungere da toppa nuova su un vestito vecchio per usare una metafora evangelica. L’attuale paradigma tecnologico dell’IA con il moltiplicarsi di piattaforme computazionali di diversa matrice, con l’investimento di enormi capitali economici da parte delle Big Tech, con la collegata bolla speculativa finanziaria… spazzerà via qualsiasi tentativo di promulgazione di corpi normativi per l’IA e di prompt di deantropomorfizzazione, che si prefiggano di regolare la nuova tecnologia. In tale ottica la misura preventiva rischia di essere una pura illusione come mostra il noto paradosso di Zenone (Achille e la tartaruga). Rivisitando il paradosso di Zenone nel momento in cui i tentativi di arginare la deriva tecnologica (Achille) partono dopo il loro concorrente (agente digitale robotico/tartaruga) quest’ultimo non sarà mai raggiunto, perché sarà sempre un po’ più avanti dell’inseguitore. Per dirla alla Floridi il ‘gap di responsabilità’ tra il diritto umanitario internazionale e l’etica insieme al conseguente disallineamento tra la responsabilità morale e quella giuridica dovrebbero riflettere la natura distribuita del processo decisionale dell’IA (L. FLORIDI, La differenza fondamentale. Artificial Agency: una nuova filosofia dell’Intelligenza Artificiale).
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
[1] Il neologismo indica la democrazia fondata non sul dèmos ma sugli algoritmi – si presenta appunto come una nuova forma compiuta e certificata di “rappresentanza profilata”, di “decisionalità informatizzata” e di “sorveglianza cibernetica”, così da dare vita a un inedito modello di automazione della democrazia stessa, nel quale in modo apparentemente contraddittorio tutto è permesso ma allo stesso tempo tutto è previsto e predeterminato. “È la tecnica a governare la vita dell’uomo […] un potere biopolitico […] capace cioè di ingegnerizzare i nostri comportamenti rendendoli funzionali alle esigenze di funzionamento del sistema, ma facendoci credere di essere liberi e indipendenti, lavoratori autonomi e imprenditori di noi stessi”; cf. G. GROSSI, La svolta del Tecnocene. Una nuova sociazione bio-tecno-sociale contro l’ipervoluzione digitale, Ombre corte, Bologna 2023, 106.
[2] In merito cf. M. GRAVES, Theological Foundations for Moral Artificial Intelligence, in M. GAUDET – B. P GREEN (EDD.), Artificial Intelligence, in Journal of Moral Theology n. 11, Special Issue 1 (2022) 182-211, che auspica un’etica dell’IA conseguibile grazie alla cooperazione tra ricercatori, eticisti della tecnologia e teologi.
[3] Cf. P. BENANTI, Oracoli. Tra algoretica e algocrazia, Luca Sasselli Editore 2018; ID., La necessità di un’algoretica, in Osservatore Romano del 20.12.2021.
[4] Cf. GIOVANNI PAOLO II, Veritatis Splendor, Città del Vaticano, Roma, 6 agosto 1993, n. 49.
[5] Su questi interrogativi cf. J. MITTELSTRASS, The moral substance of Science, in THE PONTIFICAL ACADEMY OF SCIENCES (edd.), The cultural value of Science, (Scripta varia 105) Vatican City 2003, 179-187.
[6] Cf. BENEDETTO XVI, Lettera Enciclica Caritas in veritate, Città del Vaticano, Roma, 29 giugno 2009, Cap. VI.
[7] Nell’apprendimento automatico, il bias induttivo di un algoritmo è l’insieme di assunzioni che il classificatore usa per predire l’output, prima di conoscere i dati di input. Possiamo definire i bias come i pregiudizi dell’algoritmo; cf. voce bias induttivo: https://it.wikipedia.org/wiki/Bias_induttivo [ultimo accesso 10.5.2023]. Usiamo per la definizione del sintagma bias induttivo, col beneficio del dubbio, la piattaforma wikipedia non avendo il neologismo una definizione su dizionari certificati. Secondo Cathy O’Neil, mentre il processo decisionale umano, benché spesso viziato, si può evolvere e mostra capacità di adattamento, diversamente i sistemi automatici rimangono fermi nel tempo fino a quando gli ingegneri non decidono di modificarli. I processi basati sui Big Data codificano il passato. Non inventano il futuro cosa per la quale occorre la percezione, che solo l’uomo possiede; C. O’NEIL, Armi di distruzione matematica. Come i Big Data aumentano la disuguaglianza e minacciano la democrazia, Giunti/Bompiani, Firenze/Milano 2017, 293-294.
[8] In merito Giulio Xhaet afferma: “un algoritmo è perfetto in situazioni dove seguendo le regole trovi la soluzione, ma rimane fregato se più delle regole contano le eccezioni. L’habitat dove non esistono regole fisse è la complessità: un ambiente dove le regole non esistono, esistono solo le eccezioni”; G. XHAET, Algoritmi contro umani, solo i ‘contaminati’ si salveranno, in AgendaDigitale.eu, 11.9.2020, 2.
[9] Cf. J. E. KORTELING – G. C. VAN DE BOER VISSCHEDIJK – R. A. M. BLANENDAL – R. C. BOONEKAMP – A. R. EIKELBOON (EDD.), Human – versus Artificial Intelligence: https://www.frontiersin.org /articles/10.3389/frai.2021.622364/full [ultimo accesso 10.5.2023]
