L’intelligenza artificiale non si limita ad aggiungere nuovi strumenti alla pratica clinica. Il suo ingresso modifica il modo in cui il sapere medico si forma, viene utilizzato e lascia traccia nella documentazione. Di conseguenza, cambia anche l’oggetto della valutazione. Chiedersi se l’algoritmo funzioni non basta più: occorre osservare come il suo impiego incida sulla cura, sulla decisione professionale e sulla relazione con il paziente, fino al modo in cui vengono ricostruite le responsabilità.
Che cosa propone l’articolo
Il recente articolo di Kathrin Cresswell e Robin Williams, pubblicato su BMJ Digital Health & AI, muove dalla distanza che separa le prestazioni misurate in laboratorio dal comportamento di un sistema nella pratica clinica. Quando l’IA entra nei servizi sanitari, incontra condizioni che la sperimentazione non può riprodurre interamente, perché ogni contesto presenta una propria organizzazione e una diversa popolazione di pazienti. L’accuratezza tecnica rimane necessaria, ma non consente da sola di prevedere che cosa accadrà durante l’uso [1].
Da questa constatazione deriva uno spostamento dell’oggetto da valutare. L’algoritmo non può più essere considerato come una realtà isolata, poiché la sua prestazione acquista significato soltanto all’interno del processo di cura nel quale viene inserito. È in quel processo che i dati vengono interpretati, l’output entra nel ragionamento professionale e la decisione produce effetti per il paziente. Anche la documentazione, pertanto, diventa parte della valutazione.
Gli autori articolano la proposta in tre livelli tra loro connessi. Il primo riguarda la valutazione dell’implementazione nel contesto locale. Il secondo segue nel tempo l’adattamento e l’ottimizzazione dei percorsi. Il terzo porta il coordinamento e la diffusione su scala regionale o nazionale, così che l’esperienza maturata nei singoli servizi possa alimentare un apprendimento più ampio ed evitare che i problemi emersi e le correzioni sperimentate rimangano confinati nella struttura in cui si sono prodotti [1]. In questo senso la proposta integra modelli come FUTURE-AI[1], spostando l’attenzione dalle condizioni astratte di affidabilità alla vita reale del sistema [2].
Cresswell e Williams osservano inoltre che, in una medicina sempre più dipendente dai dati, il confine tra ricerca, valutazione e pratica clinica tende ad assottigliarsi [1]. Ciò non significa che il sistema apprenda automaticamente da ogni paziente. Significa, piuttosto, che l’esperienza del suo impiego produce conoscenza sul funzionamento dell’organizzazione e può orientare successive correzioni. La valutazione cessa così di essere un controllo collocato soltanto alla fine e diventa un’attività che accompagna la pratica.
L’articolo richiama anche una questione di equità. Se l’automazione si espandesse senza un corrispondente investimento nella relazione di cura, il tempo del professionista potrebbe diventare una risorsa riservata soprattutto ai contesti più ricchi [1]. Un’innovazione introdotta per ampliare l’accesso finirebbe allora per consolidare una medicina a due livelli, affidando a molti un’assistenza prevalentemente automatizzata e lasciando a pochi la possibilità di un rapporto realmente personale.
Il merito principale dell’articolo consiste nell’aver sottratto la valutazione alla logica del controllo preliminare o della verifica tardiva. Per comprendere gli effetti dell’IA, il valutatore deve conoscere la pratica nella quale il sistema opera e deve poter osservare come essa cambia. Questa vicinanza, tuttavia, non può trasformarsi in dipendenza da chi ha scelto o prodotto la tecnologia. La credibilità della valutazione richiede che la presenza del valutatore nei luoghi della cura sia accompagnata da un’autonomia effettiva e dalla possibilità di un controllo esterno.
Dove mi ritrovo, e dove mi discosto
Mi ritrovo nella diagnosi di partenza e in buona parte nella proposta degli autori. Non è possibile considerare stabile una prestazione che dipende da un sistema e da un contesto entrambi in evoluzione. La sicurezza non si esaurisce nella validazione iniziale, perché un risultato soddisfacente può deteriorarsi nel tempo o produrre conseguenze inattese in un determinato contesto. Può accadere, inoltre, che un sistema tecnicamente corretto induca automatismi o accentui diseguaglianze già presenti. Gli studi controllati restano indispensabili per rispondere a domande specifiche, ma non possono rappresentare l’unica forma di prova. Condivido, quindi, l’idea che la valutazione debba nascere dentro la pratica clinica.
Qui la tesi dell’articolo incontra anche il diritto. La conformità alle regole, accertata al momento dell’immissione sul mercato, non esaurisce il dovere di governo. Per i sistemi ad alto rischio[2], l’AI Act costruisce la sicurezza come un processo che deve accompagnarne l’intero ciclo di vita. Il rischio deve essere governato durante l’uso e il funzionamento deve restare tracciabile, mentre la supervisione umana deve conservare un’effettiva capacità di intervento [3]. La Legge 23 settembre 2025, n. 132, ribadisce in ambito sanitario che l’IA svolge una funzione di supporto e che la decisione rimane affidata al professionista [4]. Questa affermazione, però, rischia di restare soltanto formale quando il medico non dispone delle conoscenze o delle condizioni organizzative necessarie per valutare criticamente l’output e, se occorre, discostarsene. La stessa esigenza attraversa le indicazioni dell’Organizzazione mondiale della sanità sull’etica e sulla governance dell’IA [8].
È su questo punto che la mia prospettiva comincia a distinguersi da quella dell’articolo. Cresswell e Williams osservano soprattutto il funzionamento del sistema e il modo in cui l’organizzazione può apprendere dal suo impiego. Io parto, invece, dal singolo paziente e dalla relazione nella quale viene costruita la decisione. Parto anche dalla cartella clinica, perché è attraverso la documentazione che, a distanza di tempo, dovrà essere possibile comprendere quale ruolo abbia avuto l’IA e come si sia giunti a quella scelta. Le domande che seguono nascono da questo diverso punto di osservazione.
Il consenso informato come criterio di valutazione dell’IA
La Legge 219 del 2017 ha portato a compimento una rivoluzione silenziosa, spostando il baricentro dall’atto medico alla relazione di cura. In quella relazione l’autonomia della persona incontra la competenza del medico, che conserva la propria autonomia professionale e risponde della decisione assunta [5]. L’IA entra oggi nello stesso spazio con una rivoluzione assai più rumorosa. La promessa di rendere l’informazione più rapida e più facilmente accessibile potrebbe riportare l’attenzione sulla prestazione tecnica, facendo arretrare proprio la relazione che la legge ha voluto promuovere.
Il paziente può incontrare l’intelligenza artificiale prima ancora del colloquio con il medico. Attraverso i chatbot cerca di comprendere un referto, di orientarsi tra ipotesi diagnostiche o di prepararsi a una scelta terapeutica. L’IA è dunque già entrata nel processo informativo, anche quando il professionista non l’ha scelta e non ne governa l’uso. Da questa constatazione nasce la proposta di un consenso informato assistito dall’IA [3] [9]. Con questa espressione intendo un metodo nel quale la tecnologia aiuta a preparare l’informazione e a renderla più comprensibile per quella persona, senza sostituire il colloquio, la decisione del paziente o la responsabilità del medico. Non si tratta di una nuova categoria giuridica e, tanto meno, di un consenso automatizzato.
L’articolo di Cresswell e Williams, pur non occupandosi direttamente del consenso, pone una domanda che riguarda anche questa proposta: come possiamo verificare che l’assistenza dell’IA migliori davvero la comprensione del paziente? Il numero delle informazioni fornite o l’accesso a una pagina digitale non dimostrano che la persona sia stata messa in condizione di decidere. La valutazione deve entrare nel colloquio e osservare se l’uso dell’IA ha favorito domande pertinenti oppure ha orientato implicitamente la scelta. Deve anche accertare se il linguaggio è stato adattato senza deformare il significato clinico e se il medico ha saputo riconoscere e correggere eventuali semplificazioni. Solo così si può comprendere se la libertà di accettare o rifiutare sia rimasta effettiva. Anche questa verifica deve svolgersi nella pratica e continuare nel tempo.
Il consenso informato assistito dall’IA, da distinguere dall’informazione al paziente sull’impiego dell’IA e, nei casi in cui sia richiesto, dal relativo consenso, è accettabile soltanto se rende più effettivo il processo di informazione e di autodeterminazione della persona. Il criterio è «più comprensione», non «più tecnologia». La comprensione non dipende dalla quantità delle informazioni né dalla fluidità di una risposta generata. Si costruisce nella relazione, quando il significato clinico viene ricondotto alla storia e alle condizioni della persona, così che la decisione possa esprimere davvero i suoi valori.
La documentazione non è soltanto la prova di ciò che è avvenuto
Nella prospettiva medico-legale siamo abituati a considerare la documentazione come memoria dell’assistenza e come prova del percorso seguito. Questa funzione resta essenziale, ma l’ingresso dell’intelligenza artificiale le attribuisce anche un significato prospettico. Una documentazione adeguata può infatti rendere riconoscibili i problemi che si ripetono e permettere all’organizzazione di correggere il proprio modo di utilizzare il sistema. La cartella clinica non è, quindi, soltanto il luogo nel quale si conserva ciò che è accaduto; può diventare uno degli strumenti attraverso i quali la pratica apprende dall’esperienza.
Occorre, tuttavia, distinguere la documentazione clinica dalla tracciabilità tecnica. La cartella dovrebbe consentire di comprendere quale incidenza abbia avuto l’IA nel caso concreto e come il professionista abbia trasformato l’indicazione ricevuta nella decisione finale. Non è necessario riversarvi ogni dato prodotto dal sistema. Per i sistemi soggetti a specifici obblighi di tracciabilità, la struttura utilizzatrice deve assicurare, nei limiti degli elementi che sono sotto il suo controllo e secondo il quadro normativo applicabile, la conservazione dei log e delle informazioni tecniche necessarie a ricostruire quale versione del sistema sia stata utilizzata e in quali condizioni abbia funzionato [3]. La distinzione evita di sovraccaricare la cartella senza rendere irrecuperabile ciò che potrebbe diventare essenziale per spiegare l’accaduto.
La tracciabilità assume così una duplice funzione, che collega la ricostruzione dell’evento alla prevenzione dei rischi successivi. Quando si verifica un danno, permette di seguire il percorso che ha condotto alla decisione e di collocare correttamente le responsabilità. Durante l’uso, invece, rende visibili gli scostamenti che tendono a ripetersi e può segnalare un deterioramento delle prestazioni prima che produca nuovi effetti. La documentazione non serve soltanto a spiegare perché un evento è avvenuto; può contribuire a evitare che lo stesso rischio si ripeta [7].
Questo profilo assume particolare rilievo nello Spazio europeo dei dati sanitari, destinato ad ampliare la circolazione dei dati per l’assistenza e a disciplinarne il riutilizzo per finalità ulteriori [6]. Una maggiore disponibilità di informazioni non produce automaticamente una conoscenza migliore. Il dato conserva valore soltanto se ne restano riconoscibili la provenienza e il contesto nel quale è stato generato, e se è possibile ricostruire le trasformazioni che ha subito. In assenza di questa continuità documentale, l’IA può amplificare l’errore insieme all’informazione.
Il medico non è il notaio dell’output
Uno dei pericoli più evidenti consiste nel ridurre la supervisione umana a una firma conclusiva. Il professionista riceve l’output e lo convalida formalmente, assumendone le conseguenze anche quando non dispone di informazioni sufficienti per valutarlo o lavora in un’organizzazione che ne rende di fatto obbligatorio l’impiego. In queste condizioni la decisione continua a essere attribuita all’uomo, ma il controllo che dovrebbe giustificarne la responsabilità esiste soltanto sulla carta.
Ho più volte sostenuto che il medico non è il notaio dell’output. Non può però essere lasciato solo a reggerne il peso. Il suo compito è trasformare la conclusione algoritmica in un giudizio clinico, mettendola alla prova delle conoscenze disponibili e dell’esperienza maturata nel rapporto con quel paziente. L’IA può essere un collega esperto che fa ragionare, perché obbliga a rendere espliciti passaggi rimasti impliciti e può mettere in discussione la prima ipotesi formulata [10]. In questo senso può svolgere una funzione di audit cognitivo, cioè di controllo critico del ragionamento clinico. Non diventa, tuttavia, il soggetto che decide.
Su questo punto la prospettiva sistemica dell’articolo mi trova d’accordo, perché impedisce di concentrare ogni responsabilità sul singolo professionista. Un uso clinicamente affidabile dipende anzitutto dal modo in cui la struttura sceglie il sistema e ne governa l’introduzione. La formazione deve proseguire dopo l’avvio e il monitoraggio deve entrare nel funzionamento ordinario del servizio, affinché i problemi possano essere segnalati senza ostacoli. La responsabilità professionale rimane, ma accanto ad essa prende forma una responsabilità organizzativa che non può essere considerata secondaria.
Definire l’IA un sistema sociotecnico significa riconoscere che il suo funzionamento nella pratica non coincide con le sole prestazioni dell’algoritmo. Il risultato prende forma nel contesto in cui il sistema viene introdotto, attraverso l’interazione con i dati disponibili e con i professionisti che devono interpretarne l’output. Questa lettura è convincente sul piano della valutazione, ma sul piano giuridico non può tradursi in una responsabilità indistinta. L’attribuzione deve seguire il potere esercitato nelle diverse fasi del processo. La responsabilità può essere professionale quando riguarda l’interpretazione clinica e la decisione assunta nel caso concreto; può assumere natura organizzativa quando il problema deriva dalla scelta del sistema o dalle condizioni nelle quali la struttura ne consente l’impiego. Se il problema riguarda la progettazione o la sicurezza del sistema, possono essere coinvolti anche il produttore o il fornitore: la loro responsabilità dipende dalla causa concreta dell’evento, dal potere che ciascuno ha esercitato e da quanto prevede il quadro normativo applicabile.
La complessità del sistema deve rendere più precisa l’attribuzione delle responsabilità, non dissolverla.
Quando la cura diventa anche produzione di conoscenza
L’assottigliarsi del confine tra ricerca e pratica solleva una domanda che non può essere elusa: quando il paziente riceve una cura e quando, nello stesso momento, contribuisce alla produzione di nuova conoscenza? Il fatto che le due dimensioni possano avvicinarsi non cancella la distinzione tra l’assistenza e le attività che perseguono finalità di ricerca o di miglioramento della qualità. Cambiando lo scopo, cambiano anche la base giuridica e le garanzie dovute alla persona. Il paziente deve quindi poter comprendere quale funzione svolga l’IA nella propria cura e in quale misura i dati prodotti durante il percorso siano destinati ad altri usi. La trasparenza non esige una spiegazione matematica dell’algoritmo. Richiede che il suo ruolo nella decisione e i limiti del controllo umano siano resi comprensibili.
Anche il rischio di una medicina a due livelli, segnalato dagli autori, si gioca soprattutto nella relazione. L’IA è al servizio della cura quando restituisce tempo al rapporto con la persona e ne migliora la qualità, non quando lo sostituisce. Per questa ragione l’efficienza non può essere valutata soltanto attraverso l’aumento delle prestazioni o la riduzione dei tempi. Deve essere considerata anche la capacità del sistema di lasciare al paziente uno spazio reale di ascolto e di partecipazione alla decisione.
Una valutazione che diventa parte della cura
La vicinanza tra valutazione e pratica richiede che l’organizzazione sostenga una cultura professionale capace di documentare anche ciò che non ha funzionato. Un sistema sanitario non apprende se registra soltanto i risultati favorevoli e lascia nell’ombra l’incertezza che ha accompagnato la decisione. Il professionista deve poter segnalare che l’output non si adatta alla persona o che produce effetti inattesi, senza temere che il proprio dissenso venga interpretato come resistenza all’innovazione. Solo in questa condizione la valutazione può diventare parte della cura.
A mio avviso, è questa la differenza tra un uso soltanto tecnologico e un uso propriamente clinico dell’intelligenza artificiale. Nel primo caso l’output entra nella pratica come una risposta già pronta, alla quale il professionista finisce per adeguarsi. Nel secondo diventa un elemento del ragionamento e acquista valore soltanto dopo essere stato interpretato alla luce del caso concreto e assunto responsabilmente nella decisione.
La tracciabilità acquista significato quando rende possibile la spiegazione; tracciabilità e spiegazione, tuttavia, rimangono incomplete se non conducono alla contestabilità. Perché l’IA possa essere impiegata responsabilmente nella cura, deve essere possibile ricostruire in quale modo il sistema abbia inciso sulla decisione e comprendere le ragioni per cui la sua indicazione è stata seguita. La stessa ricostruzione deve lasciare aperta la possibilità di correggere l’output o di discostarsene. La sofisticazione tecnica non può eliminare lo spazio del dissenso.
La rivoluzione dell’IA non deve cancellare la rivoluzione del consenso informato. Deve piuttosto misurarsi con essa. La legittimità dell’innovazione sanitaria non dipenderà dal numero di algoritmi introdotti. Dipenderà dalla capacità di rendere la cura più comprensibile e più aderente alla persona, senza perdere la possibilità di ricostruire le decisioni e di valutarne l’equità.
L’intelligenza artificiale può modificare il sapere medico e aiutarci a valutare diversamente la pratica. Non può però liberare la medicina dal compito che la definisce: trasformare conoscenze generali in una decisione per quella persona e assumere la responsabilità di questo passaggio. Può essere un collega che fa ragionare. Non può diventare il luogo nel quale depositiamo il peso della scelta.
Riferimenti
1. Cresswell K, Williams R. How artificial intelligence is disrupting the field of medical knowledge and evaluation: a narrative review. BMJ Digit Health. 2026;2:e000104. doi:10.1136/bmjdh-2026-000104.
2. Lekadir K, Frangi AF, Porras AR, et al. FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare. BMJ. 2025;388:e081554.
3. Parlamento europeo e Consiglio dell’Unione europea. Regolamento (UE) 2024/1689 del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale (Artificial Intelligence Act).
4. Italia. Legge 23 settembre 2025, n. 132. Disposizioni e deleghe al Governo in materia di intelligenza artificiale. Gazzetta Ufficiale n. 223 del 25 settembre 2025.
5. Italia. Legge 22 dicembre 2017, n. 219. Norme in materia di consenso informato e di disposizioni anticipate di trattamento. Gazzetta Ufficiale n. 12 del 16 gennaio 2018.
6. Parlamento europeo e Consiglio dell’Unione europea. Regolamento (UE) 2025/327 dell’11 febbraio 2025 sullo Spazio europeo dei dati sanitari.
7. Schiff GD, Khazen M. Thinking critically about AI documentation quality in primary care. BMJ Qual Saf. 2026;35:498-502.
8. World Health Organization. Ethics and governance of artificial intelligence for health. Geneva: WHO; 2021.
9. Immacolato M. L’intelligenza artificiale in sanità è davvero a servizio della relazione di cura come delineata dalla legge 219 del 2017? MagIA; 18 settembre 2024.
10. Terranova A. Una ermeneutica dell’emancipazione per l’intelligenza artificiale. Cenni sul metodo e sui possibili strumenti operativi. Mimesis; 2026.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
[1] FUTURE-AI è un modello di consenso internazionale che individua le condizioni necessarie perché un sistema di intelligenza artificiale possa essere considerato affidabile e realmente utilizzabile nella pratica sanitaria.
[2] Molti sistemi di IA con funzioni diagnostiche o di supporto decisionale possono rientrare tra i sistemi ad alto rischio quando costituiscono un dispositivo medico, o un suo componente di sicurezza, soggetto a valutazione di conformità da parte di un terzo, secondo le condizioni previste dall’art. 6 del Regolamento (UE) 2024/1689.
[3]L’espressione «consenso informato assistito dall’intelligenza artificiale» è qui impiegata in senso propositivo. Non è qui proposta come una nuova categoria giuridica e non allude a un consenso automatizzato. Descrive un metodo nel quale l’IA può aiutare ad adattare l’informazione alla persona e a preparare il colloquio, mentre la comprensione e la decisione continuano a formarsi nella relazione di cura. La letteratura internazionale ha già esaminato l’impiego di chatbot e sistemi conversazionali in alcune fasi del consenso informato, soprattutto nella ricerca e nella comunicazione preliminare, senza che da tali studi emerga una categoria giuridica autonoma o una definizione univoca di «consenso informato assistito dall’intelligenza artificiale». Cfr. M.A. Rothstein, Should Chatbots Be Used to Obtain Informed Consent for Research?, «Ethics & Human Research», 2023, 45(6), pp. 46-50; F. Busch et al., Evaluation of a Retrieval-Augmented Generation-Powered Chatbot for Pre-CT Informed Consent: a Prospective Comparative Study, «Journal of Imaging Informatics in Medicine», 2025, 38(6), pp. 4312-4323; S. Giorgi, K. Ryan, J.P. Kim, RESPECT: a Conversational AI System for Informed Consent with Accuracy, Safety, and Stakeholder-Centered Evaluation, «npj Digital Medicine», 2026, 9, 552. In Italia, cfr. Comitato Nazionale per la Bioetica, Relazione di cura, consenso informato e responsabilità nell’era dell’I.A., 27 febbraio 2026.
