Custodire l’umano: una domanda prima della tecnologia
Che cosa intendiamo custodire quando diciamo di voler custodire l’umano nell’epoca dell’intelligenza artificiale?
È una domanda che attraversa in profondità Magnifica humanitas, l’enciclica di Leone XIV dedicata alla custodia della persona umana nel tempo dell’intelligenza artificiale. Una domanda che precede quella, pur importante, relativa a ciò che l’IA può o non può fare, e che invita a interrogarsi su ciò che caratterizza la condizione umana e sul significato della cura.
Magnifica humanitas muove da una precisa antropologia cristiana, ma descrive la condizione umana attraverso categorie che possono diventare terreno di confronto anche per prospettive differenti: corpo, esperienza, vulnerabilità, limite, relazione, libertà, responsabilità, cura.
Un passaggio particolarmente significativo si trova al n. 99. L’enciclica riconosce che i sistemi artificiali possono superare alcune funzioni dell’intelligenza umana per velocità e ampiezza di calcolo. Ma subito dopo sposta l’attenzione su ciò che caratterizza l’esperienza umana: le intelligenze artificiali «non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità» (Magnifica humanitas, n. 99).
L’essere umano viene dunque descritto non anzitutto attraverso una maggiore o minore capacità di calcolo, ma attraverso il suo essere incarnato, situato, esposto all’esperienza e alla relazione.
Questa prospettiva apre una questione particolarmente rilevante per la medicina: se l’intelligenza artificiale può contribuire in modo sempre più significativo alla conoscenza e alla previsione, che cosa resta essenziale nell’esperienza umana della cura?
Vulnerabilità e limite: che cosa significa curare?
La condizione umana descritta dall’enciclica non viene idealizzata. Al contrario, Magnifica humanitas attribuisce un posto centrale proprio alla vulnerabilità.
Già al n. 12 afferma che «edificare nel bene significa accettare il limite e la fragilità dell’umanità senza considerarli un errore da correggere» e lega la realizzazione umana all’intreccio fra libertà, responsabilità e cura reciproca.
Il tema ritorna al n. 118, dove vengono nominate «incapacità, malattia, vecchiaia, sofferenza, vulnerabilità». L’enciclica mette in discussione una cultura che tende a leggerle soltanto come «difetto da correggere» e afferma che «l’umano non fiorisce malgrado il limite, ma spesso attraverso il limite» (Magnifica humanitas, n. 118).
È un’affermazione esigente, che tocca una questione decisiva per la medicina: che cosa significa curare una persona vulnerabile se la vulnerabilità non è semplicemente un difetto tecnico da eliminare? E che cosa cambia se il limite appartiene anche alla condizione di chi cura e di chi è curato?
Al n. 119 il limite diventa anche il luogo nel quale possono emergere «la compassione, la sincera inquietudine di fronte ai bisogni degli altri, la generosità», nelle esperienze della malattia, della perdita, dell’incapacità, del fallimento.
La parola cura, allora, non designa soltanto una prestazione. Dice qualcosa della nostra stessa umanità, del modo in cui riconosciamo l’altro e ci assumiamo una responsabilità nei suoi confronti.
Al n. 114 troviamo una formulazione particolarmente significativa:
«La qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione».
E ancora:
«La capacità di saperci prendere cura gli uni degli altri è una dimensione importante del nostro essere umani» (Magnifica humanitas, n. 114).
Da qui acquista senso la domanda: che ne è della cura nel tempo dell’intelligenza artificiale?
L’intelligenza artificiale può sostenere la cura. Ma può decidere?
Non si tratta semplicemente di chiedere se l’intelligenza artificiale sia utile in medicina: in molti ambiti la risposta è già positiva. Né avrebbe senso contrapporre persona e tecnologia.
La stessa enciclica riconosce che la tecnologia può sostenere la cura, offrendo strumenti che aiutino «a prevedere e organizzare». Ma aggiunge una condizione fondamentale: ciò deve avvenire «senza esautorare la libertà e il giudizio dell’essere umano, soggetto delle relazioni e responsabile delle decisioni» (Magnifica humanitas, n. 114).
La questione nasce piuttosto quando dobbiamo stabilire che cosa costituisca propriamente una decisione di cura.
Un sistema artificiale può elaborare quantità di informazioni superiori a quelle accessibili a un singolo professionista, individuare correlazioni e formulare previsioni con livelli di accuratezza anche molto elevati. Ma quale rapporto esiste tra queste capacità e la legittimità di una decisione clinica?
La distinzione riguarda due piani che tendiamo talvolta a sovrapporre: quello della conoscenza e quello della decisione.
Se un algoritmo prevede meglio, deve anche decidere?
O, più precisamente: se in uno specifico ambito un sistema predittivo dimostra un’affidabilità superiore al giudizio del singolo professionista, quale autorità dobbiamo riconoscergli? Qual è il rapporto tra autorità epistemica e autorità decisionale? Essere più accurati nel prevedere significa anche essere legittimati a scegliere?
Questi interrogativi richiedono di distinguere il valore conoscitivo delle previsioni algoritmiche dalla legittimità delle decisioni che su di esse possono fondarsi. È proprio in questa distinzione che emerge il problema del rapporto tra autorità epistemica e autorità decisionale.
L’autorità dell’algoritmo e il nostro desiderio di certezza
C’è forse un ulteriore livello da considerare. L’autorità che attribuiamo all’algoritmo non dipende soltanto dalle sue prestazioni.
Mark Coeckelbergh, in Artificial Religion, invita a considerare anche le aspettative e i desideri che proiettiamo sull’intelligenza artificiale: il desiderio di prevedere, di controllare, di ridurre l’incertezza, di trovare risposte.
L’IA, dunque, non è soltanto ciò che tecnicamente sa fare; è anche ciò che noi desideriamo che faccia per noi.
Questo aspetto diventa particolarmente rilevante nella medicina, dove previsione e incertezza hanno un peso così grande, e dove la domanda di conoscenza si intreccia continuamente con il bisogno di orientamento, di rassicurazione e di decisione.
Non è quindi sufficiente valutare le prestazioni di un sistema. Occorre anche interrogarsi sulle ragioni per cui siamo disposti ad attribuirgli autorità e sulle aspettative che accompagnano il suo impiego.
Al n. 100, Magnifica humanitas introduce due elementi decisivi: da una parte il rischio di «delegare troppo e […] cercare risposte pronte, indebolendo il giudizio personale»; dall’altra quello dell’«imitazione artificiale della relazione di cura o di accompagnamento».
Qui si incontrano due dimensioni fondamentali della pratica clinica: decisione e relazione.
Nella clinica, infatti, non decidiamo semplicemente su oggetti. Decidiamo con e per persone che hanno un corpo, una storia, desideri, paure, legami, valori; persone esposte alla malattia, alla sofferenza, all’incertezza.
E lo stesso professionista è un soggetto fallibile, limitato, situato.
Proprio questa fallibilità rende seria la domanda sull’autorità algoritmica. Non possiamo presupporre che una decisione sia migliore semplicemente perché è umana. Ma neppure possiamo presupporre che una maggiore capacità predittiva esaurisca ciò che significa decidere bene.
Chi conosce, chi decide, chi risponde?
La questione della delega algoritmica conduce inevitabilmente a quella della responsabilità.
Al n. 105, l’enciclica chiede che siano «chiare le responsabilità in tutti i passaggi», da chi progetta e addestra i sistemi a chi li utilizza e affida loro scelte concrete.
Il principio di accountability implica la possibilità di individuare chi debba rendere conto delle decisioni, motivarle, controllarle e, se necessario, rimediare ai danni.
Diventa allora difficile separare tre piani:
- Chi esercita autorità epistemica?
- Chi decide?
- Chi risponde?
Sono tre domande distinte, ma strettamente connesse. Un sistema può contribuire in modo decisivo alla produzione di conoscenza senza che per questo risultino automaticamente risolte le questioni relative all’autorità della decisione e alla responsabilità per le sue conseguenze.
In medicina questa distinzione è particolarmente delicata, perché le decisioni non riguardano soltanto l’efficacia di una procedura o la probabilità di un esito, ma la vita concreta di persone che possono essere chiamate a convivere con le conseguenze di quelle scelte.
La possibilità di delegare alcune operazioni non elimina, dunque, il problema di stabilire chi debba assumersi la responsabilità della decisione di cura.
Dati sanitari, potere e giustizia: una quarta domanda
Nel mondo sanitario ai tre interrogativi precedenti se ne aggiunge almeno un quarto: a chi appartengono i dati sui quali quell’autorità e quelle decisioni vengono costruite?
Il n. 178 di Magnifica humanitas entra nel concreto parlando di «flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici» utilizzati per addestrare modelli predittivi.
Chi possiede i dati sanitari di popolazioni intere, osserva il testo, può decidere prima degli altri «a chi destinare farmaci, investimenti, protezioni».
Il problema non riguarda quindi soltanto il rapporto tra il singolo medico, il paziente e il sistema algoritmico. Riguarda anche le condizioni nelle quali la conoscenza viene prodotta, le forme di potere che ne derivano e i criteri attraverso cui vengono distribuite risorse e opportunità di cura.
La questione della cura diventa così anche una questione di giustizia, di accesso alle risorse e di governo della conoscenza.
Se i dati contribuiscono a costruire la capacità predittiva dei sistemi, il controllo di quei dati contribuisce anche a determinare chi possa esercitare un’influenza sulle decisioni future.
La riflessione bioetica sull’intelligenza artificiale non può quindi limitarsi al problema dell’accuratezza o dell’affidabilità tecnica. Deve estendersi alle strutture di responsabilità, ai rapporti di potere e alle condizioni di equità entro cui le tecnologie vengono sviluppate e utilizzate.
Le dimensioni della cura: calcolo, relazione e responsabilità
L’enciclica ricorda anche le persone che «curano, educano, accompagnano, consolano senza clamore» e nomina esplicitamente «gli infermieri, i medici, i volontari, le persone che restano accanto a un anziano o a un escluso» (Magnifica humanitas, n. 125).
Questa immagine aiuta a comprendere il senso più profondo della domanda iniziale.
Non si tratta di difendere una presunta esclusività dell’essere umano in ogni operazione. Si tratta di comprendere quali dimensioni della cura possano essere calcolate, previste, automatizzate o delegate e quali dimensioni della condizione umana continuino invece a essere rilevanti per definire una buona decisione.
Corpo, vulnerabilità, relazione, esperienza, libertà, responsabilità verso l’altro: Magnifica humanitas propone questi elementi all’interno della propria visione cristiana, ma essi possono costituire un terreno serio di interlocuzione anche con antropologie differenti.
È significativo che la stessa enciclica incoraggi questo confronto. Al n. 23 riconosce il contributo della filosofia e delle scienze umane e sociali e, su molte questioni specifiche, invita a «favorire un confronto serio e leale tra studiosi, accogliendo la diversità delle opinioni».
Non si tratta, allora, di partire da una risposta già stabilita, ma di mettere alla prova queste domande attraverso prospettive filosofiche, teologiche, giuridiche e medico-deontologiche.
L’intelligenza artificiale ci obbliga a ripensare il rapporto tra conoscenza, decisione e responsabilità, ma al tempo stesso riporta al centro una domanda che precede la tecnologia e che la medicina non può eludere.
Che cosa significa decidere bene quando la decisione riguarda una persona affidata alla nostra cura?
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
