1. Nel IV secolo a.C. Platone descriveva due tipi di relazione medico-paziente nell’erogazione dell’assistenza sanitaria (come diremmo oggi): da un lato, c’è il medico degli schiavi, in genere anch’egli schiavo, che cura i pazienti schiavi “andando in giro e attendendoli nei luoghi di cura e nessuna ragione di ciascuna delle malattie di ciascuno di quegli schiavi nessuno di tali medici dà o ascolta, e prescritto ciò che par meglio alla loro esperienza, come se ne avessero scienza perfetta, fanno come un tiranno superbo e tosto si scostano e si dirigono verso un altro ammalato […]; dall’altro lato, c’è il medico degli uomini liberi, che “cura quasi sempre le malattie dei liberi e le studia, le tiene fin da principio sotto osservazione, come vuole la natura, dando informazioni all’ammalato e agli amici, e insieme egli impara qualcosa dagli ammalati e, per quanto è possibile, ammaestra l’ammalato stesso. Non prescrive nulla prima di averne persuaso per qualche via il paziente, e allora si prova di condurlo alla perfetta guarigione, sempre preparando docile all’opera sua con il convincimento il paziente.”[1]
2. Nei 25 e passa secoli di storia della medicina il primo tipo di relazione individuato da Platone è stato ripudiato (almeno in teoria, nella pratica forse se ne può rintracciare qualche eco), mentre il secondo ha conosciuto una lentissima evoluzione fino a perdere, ma solo nell’ultimo secolo, gli accenti “paternalistici” e trasformarsi nel tipo di relazione che oggi conosciamo e che, per brevità, sintetizzo nella formulazione contenuta nei commi 2 e 3 dell’art. 1 della legge 217/2019: “2. È promossa e valorizzata la relazione di cura e di fiducia tra paziente e medico che si basa sul consenso informato nel quale si incontrano l’autonomia decisionale del paziente e la competenza, l’autonomia professionale e la responsabilità del medico. […]3. Ogni persona ha il diritto di conoscere le proprie condizioni di salute e di essere informata in modo completo, aggiornato e a lei comprensibile riguardo alla diagnosi, alla prognosi, ai benefici e ai rischi degli accertamenti diagnostici e dei trattamenti sanitari indicati, nonché riguardo alle possibili alternative e alle conseguenze dell’eventuale rifiuto del trattamento sanitario e dell’accertamento diagnostico o della rinuncia ai medesimi.[…]” “8. Il tempo della comunicazione tra medico e paziente costituisce tempo di cura”.
3. Questo rapporto comunicativo è stato sempre immaginato come una ellissi a due fuochi, il medico (anche quando per medico si intenda l’équipe sanitaria) e il paziente. Oggi dobbiamo fare i conti col fatto che in questo rapporto duale entra un nuovo protagonista, il sistema dell’IA. La domanda è: riusciremo ad allineare l’IA ai valori e ai diritti sottesi a quel tipo di relazione o sarà quella concezione della relazione a doversi allineare all’IA, qualora, ad esempio, il perseguimento dei benefici ottenibili con l’IA in ambito medico (che tutti esaltano) sia inconciliabile col mantenimento del modello di relazione improntato al consenso informato?
La risposta che troviamo in letteratura, e anche nei primi documenti normativi in proposito[2], è nel complesso rassicurante. Nessuno si nasconde i complessi e inediti problemi (anche tecnici: la spiegabilità, il black box, i bias ecc.) che occorrerà superare, ma c’è la fiducia che saremo in grado di farlo: dopo tutto, si afferma, se immaginiamo i sistemi di IA applicati in medicina come a utilissimi strumenti a disposizione del medico, potremmo assimilarli ai tanti strumenti diagnostici e terapeutici che già da tempo mediano la relazione tra paziente-medico, con la raccomandazione usuale che, in ogni caso, il rapporto tra paziente e medico deve restare un rapporto umano, un rapporto comunicativo solo mediato dalla macchina, ma non ostacolato.
Voglio però fare l’avvocato del diavolo e mi chiedo: è del tutto appropriato interpretare i sistemi di IA alla stregua dei tanti strumenti già presenti nel rapporto paziente-medico? C’è qualche dubbio in proposito: nessuno di questi strumenti, per quanto utili nella formulazione della diagnosi da parte del medico, emette la diagnosi. I sistemi di IA sono in grado di farlo, sulla base di un ammontare di dati che nessun essere umano è in grado di padroneggiare e con una precisione e accuratezza sempre più perfezionate e personalizzate. Saremmo così in grado di ridurre al minimo, e forse di eliminare, quell’alone di incertezza tradizionalmente presente in medicina, che già alla metà degli anni ’90 del secolo scorso induceva Robert Veacht[3] a decretare l’inadeguatezza concettuale (indipendentemente dalle sue eventuali cattive applicazioni pratiche) del modello del consenso informato all’epoca della medicina contemporanea.
Un indubbio beneficio, dunque, ma con un prezzo da pagare, quello di una marginalizzazione del medico a favore dell’algoritmo. Certo, si può aggiungere che se anche un algoritmo potesse superare le prestazioni dei dottori negli aspetti tecnici della loro professione, non potrebbe mai sostituire il contatto umano e la comunicazione della diagnosi da parte del medico. Questa insostituibilità del rapporto umano è quello che tutti ci auguriamo, ma anche qui qualche dubbio può sorgere: “Se il vostro apparecchio per la tomografia computerizzata indica che avete un cancro, preferireste ricevere la notizia da una fredda macchina o da un dottore umano sensibile al vostro stato emotivo? Be’, e che dire allora di ricevere la notizia da una macchina sensibile che scelga in maniera accurata le parole sulla base dei vostri sentimenti e personalità?”[4] L’algoritmo ci conosce molto meglio del dottore, sa tutto di noi, delle nostre preferenze, dei nostri desideri e così via: e non dimentichiamo che l’abbiamo nutrito noi.
4. A fronte di uno scenario di questo genere, in letteratura e nei documenti ufficiali si osserva di solito che si tratta di uno scenario molto distante nel tempo, ma questa osservazione (condita spesso con clausole temporali) non è molto rassicurante: la scienza si diverte spesso a sorprenderci con improvvise accelerazioni e nel caso dei sistemi di IA questo sta avvenendo con una rapidità impressionante.
Comunque, anche nello scenario più rassicurante (quello di una IA sostenibile, sicura, inclusiva e affidabile), resta cruciale il tema dell’informazione come nucleo del modello del consenso informato. La legge 217 chiede che sia completa, aggiornata e comprensibile ed è noto che l’interpretazione di questi termini è stata, fin dall’avvento del modello del consenso informato, oggetto di discussione. Sono stati elaborati e proposti diversi modelli (lo standard professionale, lo standard della “persona ragionevole”, lo standard soggettivo ecc.), ognuno coi suoi pregi e difetti, ma nessuno dei quali sembra adeguato all’epoca dell’IA, perché sono tarati su un insieme finito, per quanto ampio, di dati, e quindi potenzialmente padroneggiabile, mentre con l’IA siamo di fronte a un complesso di dati immane, potenzialmente infinito, ma anche caratterizzato da alcuni aspetti che sfidano le concezioni tradizionali. Come applicare, ad esempio, il requisito della completezza a fronte della “opacità” dei modelli di IA ad apprendimento automatico, che per noi esseri umani sono come delle scatole nere? E se non abbiamo una spiegazione accessibile e comunicabile al processo compiuto dall’algoritmo per giungere a un certo risultato, cosa esattamente comunichiamo al paziente? Solo il mero fatto che partecipa a un processo in cui interviene l’IA? E potremo definire “informato” un consenso dato su queste basi?
5. Io mi auguro che il futuro che ci attende sia quanto più possibile vicino allo scenario rassicurante che emerge dal Regolamento europeo. Ma non possiamo chiudere gli occhi di fronte alla possibilità che si realizzi uno scenario differente, che riassumo nella forma di un paternalismo che avrà come primo attore non più il medico, ma l’algoritmo. E di fronte a questo scenario non posso che richiamare l’ammonimento straordinariamente moderno che Immanuel Kant formulava a proposito del dispotismo illuminato: “ Se ho un libro che pensa per me, un direttore spirituale che ha coscienza per me, un medico che decide per me sulla dieta che mi conviene ecc., io non più bisogno di darmi pensiero da me. Purché sia in grado di pagare, non ho bisogno di pensare: altri si assumeranno per me questa noiosa occupazione.”[5] Domani questi “altri” sarebbero gli algoritmi. La dottrina del consenso informato ha avuto in medicina lo stesso significato rivoluzionario che Kant assegnava all’Illuminismo: ma sopravvivrà nell’epoca dell’intelligenza artificiale?
Immagine: Foto di Günter Valda su Unsplash
[1] Platone, Leggi, IV, 720.
[2] Cito solo il Regolamento sull’intelligenza artificiale del Parlamento europeo e del Consiglio dell’Unione europea, Bruxelles, 14 maggio 2024.
[3] R.M. Veatch, “Abandoning informed consent”, Hastings Center Report, 25, n.2, 1995, pp. 5-12.
[4] Y.N. Harari, Homo Deus. Breve storia del futuro, tr. It. Bompiani, Milano, 2017, p. 386
[5] I. Kant, Che cos’è l’Illuminismo?, a cura di N. Merker, Editori Riuniti, Roma, 1987, p. 48-49.
