Un team di ricercatori Microsoft guidato da Eric Horvitz ha individuato una vulnerabilità zero-day (ovvero non ancora nota ai produttori) nei sistemi di screening del DNA utilizzati per prevenire la sintesi di sequenze genetiche pericolose. La ricerca dimostra come modelli di IA generativa per la progettazione proteica possano riprogettare tossine modificandone la struttura per eludere i controlli, mantenendo però intatta la funzione letale.
Lo studio, pubblicato su Science, ha coinvolto diversi modelli generativi tra cui EvoDiff di Microsoft ed è stato condotto senza produrre fisicamente proteine tossiche, ma con l’obiettivo di sensibilizzare sui rischi di biosicurezza. La ricerca evidenzia il problema del carattere dual-use degli strumenti IA in biologia, utilizzati per la scoperta di nuovi farmaci ma suscettibili al rischio di impieghi malevoli. I fornitori di DNA sono stati allertati e hanno aggiornato i sistemi, ma la protezione rimane incompleta. Adam Clore di Integrated DNA Technologies definisce la situazione una “corsa agli armamenti” in continua evoluzione contro i potenziali usi malintenzionati.
Il dibattito verte sull’efficacia dello screening della sintesi genica come principale linea di difesa contro gli abusi intenzionali. Michael Cohen, ricercatore di sicurezza dell’IA (UC, Berkeley) sottolinea che sarà sempre possibile mascherare le sequenze e propone di spostare le difese direttamente nei sistemi di IA. Per Clore, lo screening resta una difesa pratica contro le minacce biologiche, poiché il settore è concentrato in poche aziende che collaborano con il governo. Tuttavia, avverte che l’accessibilità della tecnologia IA potrebbe rendere più difficile il controllo delle minacce, poiché chi manipola il DNA potrebbe anche addestrare modelli per scopi dannosi.
Leggi l’articolo completo: Microsoft afferma che l’IA può creare minacce “zero day” in biologia su MIT Technology Review Italia
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (10/05/2025).
