Uno studio co-firmato da ricercatori del MIT analizza come i modelli di intelligenza artificiale addestrati su cartelle cliniche elettroniche anonimizzate possano memorizzare informazioni riconducibili a singoli pazienti, compromettendo potenzialmente la privacy e riservatezza medica. La ricerca, presentata a NeurIPS 2025, propone un quadro di test rigorosi per verificare se prompt mirati possano far emergere dati sensibili, sottolineando che il rischio di leakage va valutato nel contesto clinico per capire se comprometta realmente la privacy dei pazienti.
. Il fenomeno della “memorizzazione” si verifica quando il modello richiama dati da una singola cartella clinica anziché generalizzare da molteplici record. Si tratta di un rischio già noto nei foundation model, che li rende vulnerabili ad attacchi mirati all’estrazione di informazioni, e che risulta particolarmente critico in ambito sanitario.
Il team ha sviluppato una serie di test per misurare i diversi livelli di rischio per la privacy, in relazione anche a quelli associati ai leak di dati. La ricerca mostra che la vulnerabilità aumenta proporzionalmente alla quantità di informazioni preliminari disponibili su un paziente e che non tutte le violazioni hanno lo stesso impatto. Rivelare età o dati demografici ad esempio, comporta conseguenze minori rispetto all’esposizione di diagnosi sensibili come HIV o dipendenze. I pazienti con patologie rare risultano inoltre particolarmente vulnerabili, essendo più facilmente identificabili anche nei dataset anonimizzati.
Il team di ricerca intende ampliare il lavoro coinvolgendo clinici, esperti di privacy e legali, ribadendo che la protezione dei dati sanitari resta un principio fondamentale della pratica della medicina.
Leggi l’articolo completo: MIT scientists investigate memorization risk in the age of clinical AI su MIT News
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
