L’utilizzo dell’IA nella ricerca scientifica è aumentato di quattro volte negli ultimi dieci anni, espandendosi in venti diverse discipline. Nonostante le aspettative sulle possibilità di accelerazione delle scoperte, emergono preoccupazioni sugli effetti di un suo utilizzo improprio sul progresso della scienza.
Per Arvind Narayanan e Sayash Kapoor dell’Università di Princeton, la diffusione dell’uso – non sempre guidato da una solida competenza metodologica – di tecniche di machine learning rende urgente stabilire delle linee guida su come utilizzarle. I due esperti sottolineano che in campi come la previsione di epidemie o conflitti, la complessità e l’opacità dei modelli amplificano il rischio di errori, soprattutto quando strumenti preconfezionati vengono utilizzati da ricercatori con competenze informatiche limitate, alimentando una sopravvalutazione delle capacità predittive dell’IA.
Uno dei problemi più rilevanti è la frequenza di errori metodologici, come il data leakage, che compromettono la validità dei risultati. Ad esempio, un’analisi condotta su 415 ricerche sull’uso dell’IA per diagnosticare il COVID-19 tramite immagini mediche ha rivelato che solo 63 rispettavano gli standard qualitativi minimi e messo in luce problemi diffusi nella valutazione dei modelli e nell’interpretazione dei risultati. Al momento, la mancanza di standardizzazione e la complessità del funzionamento dei modelli stessi rendono difficile individuare e correggere errori di questo tipo.
Preoccupa inoltre l’aspetto epistemologico e in particolare la tendenza a privilegiare l’accuratezza predittiva a discapito della comprensione dei fenomeni. Il progresso della ricerca scientifica, sottolineano, richiede non solo l’accumulo di risultati predittivi, ma lo sviluppo di teorie esplicative e paradigmi interpretativi. L’adozione acritica dell’IA rischia di creare un’illusione di avanzamento, mentre potrebbe paradossalmente ostacolare l’evoluzione della ricerca e della conoscenza autentica.
Leggi l’articolo completo “‘Why an overreliance on AI-driven modelling is bad for science” su Nature
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
