Human-Centered AI per una tecnologia al servizio delle persone
Oggi si parla molto di Intelligenza Artificiale (AI è l’acronimo inglese utilizzato comunemente) in tanti contesti: scientifico, economico, sociale, etc. Le tecnologie AI possono certamente aumentare in modo significativo l’efficienza dei processi in molte aree e aiutare le persone nella loro vita quotidiana. Tuttavia, non è ancora chiaro come sfruttare al meglio i benefici dell’AI, garantendo al contempo affidabilità, sicurezza, tracciabilità, spiegabilità che sono essenziali per ottenere la fiducia delle persone nell’AI. Generalmente l’AI è vista dalla prospettiva dell’autonomia, cioè la capacità dell’AI di agire o prendere decisioni in modo autonomo. In molte situazioni un alto grado di autonomia è utile ma non è esente da rischi.
La nuova disciplina “Human-Centered Artificial Intelligence” (HCAI), letteralmente Intelligenza Artificiale Centrata sull’Essere Umano, ha l’obiettivo di utilizzare l’AI per supportare e facilitare le persone, complementando le capacità cognitive umane anziché sostituirle. Gli articoli pubblicati nello special issue su “Human-Centered AI for One Health” della rivista scientifica AI in Medicine1, assieme all’introduzione da parte dei ricercatori che l’hanno curato (da cui questa breve nota è ricavata), sono riportati al link https://www.sciencedirect.com/special-issue/101TQ0ZQJJ0.
HCAI si concentra sulla progettazione di sistemi innovativi che siano affidabili, sicuri, e capaci di suscitare la fiducia delle persone, che permettano un alto livello di automazione garantendo però livelli appropriati del controllo da parte delle persone2. Per assicurare queste proprietà, bisogna fornire strategie per rilevare e correggere errori o altri problemi dei sistemi di AI. Alcuni ricercatori stanno lavorando a Machine Learning interattivo3, per consentire alle persone di poter intervenire durante l’addestramento del sistema per dare indicazioni sui dati, in modo che il sistema possa effettuare modifiche che migliorino la sua performance complessiva. Nel contesto della medicina, la spiegabilità del sistema di AI è particolarmente importante4. L’Explainable Interactive Machine Learning5 introduce la spiegabilità nei cicli del Machine Learning interattivo; in questo modo si stabilisce una comunicazione bidirezionale tra l’AI e l’utente (attraverso le spiegazioni fornite dal sistema di AI e i nuovi dati forniti dall’utente) e una conseguente collaborazione, che permette non solo di migliorare i risultati dell’AI attraverso l’intervento manuale, ma anche di migliorare la conoscenza delle persone attraverso le spiegazioni fornite dall’AI.
Intelligenza Artificiale Simbiotica
La continua collaborazione anche durante l’uso del sistema è essenziale per raggiungere una simbiosi tra persona e AI. Simbiosi essere umano-macchina è un concetto che, seppur introdotto molti anni fa, è stato rivisto più di recente6. Le nuove interfacce utente giocano un ruolo significativo per assicurare che le persone possano comprendere una particolare spiegazione della macchina, consentendo così una collaborazione simbiotica tra utenti e AI.
L’AI simbiotica richiede una integrazione progressiva e profonda tra essere umano e AI, cioè una simbiosi di queste due forme di intelligenza dove entrambi, l’essere umano e l’AI, aumentano le proprie capacità grazie a una collaborazione che bilancia le forze e le debolezze di ciascuno. I sistemi di AI simbiotica migliorano attraverso gli utenti, che a loro volta migliorano attraverso l’AI. Tuttavia, per creare sistemi che siano etici e sostenibili, questa simbiosi richiede che gli utenti mantengano il controllo. Solo in questo modo si può realizzare l’obiettivo di creare sistemi che assicurino affidabilità, sicurezza e fiducia, supportando gli esseri umani piuttosto che rimpiazzandoli.
Aspetti evidenziati dallo special issue
Lo special issue su “Human-Centered AI for One Health” della rivista scientifica AI in Medicine1 è stato organizzato per presentare i progressi di metodi e strumenti di HCAI e la loro applicazione relativamente alla salute di individui e ambienti. Infatti, il concetto di One Health dell’Organizzazione Mondiale della Sanità è basato sull’interdipendenza tra la salute umana, animale e ambientale, con l’obiettivo di raggiungere la salute ottimale per gli esseri umani e per l’intero ambiente ecologico. Tuttavia, quasi tutti i 33 articoli sottomessi hanno presentato sistemi medici piuttosto che sistemi a supporto del benessere in generale. Gli articoli sono stati revisionati accuratamente. I 10 selezionati e pubblicati presentano analisi interessanti dei requisiti utente e delle nuove pratiche di lavoro che emergono dall’uso di AI nel dominio medico, ma anche indicazioni ricavate da studi sperimentali con sistemi di HCAI. Alcuni articoli hanno effettuato un’accurata ricerca preliminare sui medici che sono gli utenti del sistema che si vuole sviluppare, per capire il modo con cui essi vogliono interagire con il nuovo sistema di AI e che tipo di supporto si aspettano da esso nelle loro attività mediche. Questo tipo di ricerca (user research) è fondamentale per lo sviluppo di un sistema di AI che sia realmente human-centered e ambisca a soddisfare le esigenze e le aspettative dei suoi utenti. Alcuni articoli descrivono prevalentemente metodi e strumenti che supportano gli utenti nei processi di decisione e nel comprendere meglio le decisioni dei sistemi di AI. Altri sono relativi a metodi e algoritmi che consentono una migliore collaborazione human-AI; di particolare interesse è l’articolo che presenta un nuovo paradigma di interazione human-AI che favorisce tale collaborazione, enfatizzando la spiegabilità e il controllo del sistema da parte dell’utente.
È opportuno sottolineare che negli articoli viene ribadito che il ruolo di AI nel futuro non è di rimpiazzare gli utenti ma di potenziare le loro abilità. Questa opinione è condivisa da società leader nel settore (si veda per esempio l’annuncio di Apple sulla sua versione di AI chiamata Apple Intelligence). Medici di varie nazioni del mondo affermano di non volere strumenti di AI che li rimpiazzino ma strumenti con i quali possano collaborare al meglio. Alcuni articoli hanno effettuato studi per raccogliere le prospettive di tutti gli interessati. Questo è cruciale per prospettare soluzioni che non siano solo valide tecnicamente ma che si allineino ai bisogni pratici e alle esperienze di tutte le persone della comunità medica.
Gli aspetti legali ed etici dell’AI in medicina, inclusi privacy dei pazienti, consenso, pregiudizi nel processo decisionale, problemi di responsabilità, sono menzionati in quasi tutti gli articoli, spesso riportati come una delle limitazioni degli approcci proposti, ma non sono discussi in dettaglio. In altre parole, tutti riconoscono l’importanza di questi aspetti ma non ci sono ancora indicazioni precise relative a “ethics by design”, che cioè possano supportare il progettista nella realizzazione di sistemi che rispettino principi etici e legali. La ricerca futura dovrebbe anche enfatizzare l’importanza di una validazione clinica robusta dei modelli di AI e delle metodologie e tecniche proposte per progettare sistemi di HCAI ed esplorare strategie più efficaci per migliorare la fiducia dei medici e l’accettazione di tali sistemi.
* Paolo Buono e Maria Francesca Costabile
Laboratorio IVU, Dipartimento di Informatica, Università degli Studi di Bari Aldo Moro
Ringraziamenti
Gli autori ringraziano il cofinanziamento PNRR Next Generation EU (PE0000013 – “Future Artificial Intelligence Research – FAIR” – CUP: H97G22000210007) – WP6.1 Design of Symbiotic AI systems.
Riferimenti
1. Buono, P., Berthouze, N., Costabile, M. F., Grando, A. & Holzinger, A. Special issue on Human-Centered Artificial Intelligence for One Health. Artificial Intelligence in Medicine 156, 102946 (2024). doi:10.1016/j.artmed.2024.102946
2. Shneiderman, B. Human-Centered AI. (Oxford University Press, Oxford, 2022).
3. Fails, J. A. & Olsen, D. R. Interactive machine learning. In Proceedings of the 8th international conference on Intelligent user interfaces 39–45 (ACM, Miami Florida USA, 2003). doi:10.1145/604045.604056.
4. Combi C., Amico B., Bellazzi R., Holzinger A., Moore J.H., Zitnik M., Holmes J.H. A Manifesto on Explainability for Artificial Intelligence in Medicine. Artificial Intelligence in Medicine 102423 (2022) doi:10.1016/j.artmed.2022.102423.
5. Pfeuffer N., Baum L., Stammer W., Abdel-Karim B.M., Schramowski P., Bucher A.M., Hügel C., Rohde G., Kersting K. & Hinz O. Explanatory Interactive Machine Learning: Establishing an Action Design Research Process for Machine Learning Projects. Bus Inf Syst Eng 65, 677–701 (2023).
6. Grigsby, S. S. Artificial Intelligence for Advanced Human-Machine Symbiosis. in Augmented Cognition: Intelligent Technologies (eds. Schmorrow, D. D. & Fidopiastis, C. M.) vol. 10915 255–266 (Springer International Publishing, Cham, 2018).
