AI Scientist, un software sviluppato dalla società giapponese Sakana AI per automatizzare la ricerca scientifica, è un modello di intelligenza artificiale in grado di generare idee, condurre esperimenti, scrivere e revisionare articoli scientifici. Tuttavia, le imperfezioni sono dietro l’angolo: sebbene sia in grado di creare centinaia di articoli settimanalmente, la qualità di quest’ultimi rimane molto bassa, aspetto che li allontana dall’acquisizione da parte di riviste scientifiche prestigiose.
Quest’IA, particolarmente efficace nel campo del machine learning, potrebbe, secondo i creatori, essere applicata anche ad altre discipline, come biologia e fisica. Oltre alle preoccupazione circa la qualità dei contenuti che creano, ci sono diverse questioni che sono sull’agenda dei ricercatori, soprattutto da un punto di vista etico: tra i problemi più operativi riscontrati, infatti, ci sono errori numerici, difficoltà nel formattare tabelle e il fenomeno delle allucinazione, ossia il fatto di generare informazioni non attendibili ed erronee. Nonostante ciò, il rischio più grande è legato all’uso potenzialmente pericoloso del sistema: gli sviluppatori infatti, raccomandano che l’accesso a laboratori cloud potrebbe portare, per esempio, alla creazione accidentale di sostanze biologiche pericolose o software dannosi.
Per far fronte a queste difficoltà, gli sviluppatori propongono di limitare i rischi attraverso meccanismi di sicurezza, come il sandboxing, che relegherebbe l’utilizzo dell’AI nella ricerca solamente in ambienti che sono controllati.
Leggi l’articolo completo AI Scientist aims to automate research but raises ethics concerns su Essanews.com.
Immagine generata tramite DALL-E.
