Il pensiero razionale degli algoritmi di IA e la colonizzazione ideologica delle scienze biologiche, mediche, antropologiche

Premessa

L’avvento dell’IA e degli agenti digitali robotici performati dal pensiero razionale degli algoritmi ha assunto una centralità nella ricerca scientifica di molti ambiti del sapere fino a determinare una colonizzazione ideologica delle scienze biologiche, mediche, antropologiche, giuridiche, teologiche, sociologiche… Questo processo s’inserisce in un fenomeno più ampio, che assume la tecnica e la tecnocrazia come assi portanti dell’era tecnocenica. L’homo technosapiens si accinge a dominane e forse a sottomettere homo Sapiens. Si affida all’IA la gestione dei pronto soccorsi, l’antropologia è ridisegnata sulla base di indagini probabilistiche e statistiche condotte sulla scala molecolare, si va verso l’assistenza digitale dei pazienti, il timing chirurgico in oncologia pediatrica è dettato da algoritmi di IA, si interpretano elettrocardiogrammi con l’ausilio dell’IA, i centri trasfusionali sono ottimizzati da algoritmi di IA, l’IA è utilizzata per la scoperta di biomarcatori e per la diagnosi e la terapia di molti tumori, algoritmi di IA cercano nuove proteine, la genetica medica e la medicina molecolare vivono un’autentica rivoluzione sotto la spinta di algoritmi di IA…

Dove stiamo andando?

Recentemente in un contesto amicale ho conosciuto il direttore generale di una importante azienda ospedaliera campana, un’economista di stampo keynesiano. Egli affermava, con altera supponenza, che il malato è semplicemente un oggetto privo di soggettività e la sanità andrebbe gestita economizzando la spesa, massimizzando i profitti e distribuendo l’intervento pubblico nel rigido perimetro della sostenibilità. A suo dire l’IA e la telemedicina, senza alcuna esitazione per le opacità e criticità, sono lo strumento ideale per ridurre i costi sanitari, favorire la sostenibilità delle spese. Nessun riguardo, dunque, per i riflessi bioetici e per qualsiasi altra forma di etica della persona che sono inutili complicazioni per il conseguimento degli obiettivi aziendali. Di fronte al mio fraterno e caloroso invito a considerare e le opacità e le criticità della nuova tecnologia e a dialogare con bioeticisti, filosofi, antropologi e sociologi, mi ha opposto con categorica determinazione: “io non parlo con bioeticisti, preti e filosofi, ciascuno faccia il suo mestiere!” Se la governance dei sistemi sanitari sarà affidata unicamente a burocrati dell’economia quale sarà lo scenario futuro?

La professoressa Palma Sgreccia è convinta che: “il tentativo che oggi si intravede in molti ambiti – non solo nella sanità – sembra proprio quello di azzerare la dimensione etica e politica delle decisioni, riducendole a mere questioni tecniche. Si pensa che il calcolo possa fare meglio del giudizio, che l’algoritmo sia più “oggettivo” della coscienza, e che dunque basti ottimizzare processi e costi per governare realtà profondamente umane. In questa visione, le persone finiscono per essere considerate cose tra le cose, elementi da gestire secondo modelli efficientistici – quasi su un paradigma da piattaforma logistica, stile Amazon – più che soggetti portatori di dignità, fragilità, storia. La tecnica è uno strumento prezioso, e anche l’intelligenza artificiale può offrire contributi importanti, ma non può sostituire la responsabilità morale e politica delle scelte”.[1]

Alcuni interrogativi da discutere e approfondire

In questo scenario sarebbe utile sedersi a un tavolo comune e confrontarsi sui seguenti interrogativi:

Quale sarà il rapporto tra medico e algoritmi di IA nella formulazione dell’atto medico? Il consenso informato potrebbe essere delegato ad algoritmi di IA generativa? Quale sarà il ruolo del medico (bisognerà reinventarlo!) in una sanità ‘assistita/governata’ dall’IA? Si potrà rinunciare al rapporto medico-malato in presenza e alla relazione di cura?
I software di IA apprendono dai dati, dall’esperienza, dai fallimenti, perfezionano l’algoritmo, correggendo gli errori in progress… per semplificare possiamo dire che adottano il principio “sbagliando si impara”. Non si corre il rischio di usare i pazienti come cavie per addestrare gli algoritmi?
La medicina nell’era dell’IA non rischia di trattare il malato, che resta una persona umana, unicamente come un organismo vivente “bio (corpo organologico muscolo scheletrico/neuro/psichico” da riparare, surrogare, protesizzare, ibridare…)?
In conseguenza dell’introduzione e dell’uso dell’IA in ambito clinico non si dovrà procedere a un adeguamento del consenso informato (legge 219/2017)?
Di chi sarà la responsabilità etica, penale, civile… dell’eventuale e possibile danno biologico causato dalla medicina assistita dall’IA? Andrà distribuita su tutta la filiera dell’intervento terapeutico assistito/governato dall’IA (diagnosi, intervento chirurgico, cura…? Quali saranno le responsabilità dell’ente che produce norme sanitarie a livello regionale o nello Stato nazionale?
In ambito sanitario vige il principio di autonomia, che comporta la conoscenza, il controllo e il consenso da parte del malato circa le cure; come si potrà assicurare comprensibilità e trasparenza nell’autonoma decisione del soggetto-paziente, se l’IA è caratterizzata da complessità sistemica probabilistica e predittiva (black box), priva di validazione? Si tratta di pura retorica?
Nel rapporto tra IA e fine vita (con le implicazioni sia per la medicina palliativa che per assistenza medica a decisioni di suicidio assistito) gli algoritmi condurranno il sistema sanitario ad assumere una decisione logica e coerente con le regole assunte, più che emotiva, interpersonale, progressiva e regressiva?
Quale regolamentazione si dovrà approvare per le chatbot usate in psicoterapia?
I robot non sono semplici strumenti o dispositivi, ma veri e propri ‘agenti robotici digitali’, che dovranno obbedire a criteri di conformità (compliance) all’etica medica. Secondo quali principi etici si dovrà disciplinare il loro uso in un prossimo futuro? Saranno sufficienti gli orientamenti suggeriti dai Comitati etici territoriali o da Comitati nazionali di bioetica?
Gli algoritmi di IA consentiranno ai medici, supportati da data analist sulla base di big data, di assumere decisioni terapeutiche soggettive nell’ambito della pratica clinica. Siamo alla ‘medicina predittiva’, che diagnosticherà anticipatamente lo sviluppo di future patologie? Quali saranno i riverberi sul piano dei progetti assicurativi e di risarcimento dei danni?
I tre istituti – consenso informato, disposizioni anticipate di trattamento, e pianificazione condivisa delle cure – declinati negli otto articoli della legge, hanno definitivamente chiuso, in Italia, anche sul piano giuridico, l’epoca del paternalismo medico. Se il tramonto del “paternalismo medico” è stato segnato dal dovere del medico di informare e spiegare al paziente le cure al fine di farlo partecipare alla decisione clinica, l’opacità degli algoritmi e la possibile non ‘spiegabilità’ degli output non riapriranno una nuova stagione del paternalismo questa volta non del medico, ma dell’IA o dei sistemi sanitari che si affidassero alla IA?[2]
Non stiamo pianificando una medicalizzazione tecnocratica della persona umana? Non dovremmo preoccuparci della supponenza, dell’alterigia e del sussiego con cui i responsabili amministrativi della sanità si relazionano con le altre scienze che strutturano la persona umana? Può un direttore generale della sanità pubblica decidere unicamente in base a leggi economiche senza confrontarsi con comitati bioetici, con esperti di scienze umane, con teologi e rappresentanti delle religioni? Affermazioni come “io non parlo con i teologi, i filosofi e gli antropologi e non amo le loro interferenze. Ciascuno faccia il suo mestiere, anzi voi preti occupatevi dei malati anziani che noi non possiamo guarire!”, non rischiano di costruire una sanità che viola il diritto costituzionale alla salute, perché “non sempre si può guarire, ma sempre si può curare!?”