Una vulnerabilità individuata nel nuovo agente di codifica basato su intelligenza artificiale di IBM, chiamato Bob, conferma che l’assistente può essere indotto a scaricare ed eseguire malware sulla macchina dell’utente senza una reale approvazione consapevole. Bob è un programma ancora in prova, usato solo da poche persone selezionate e non ancora disponibile per tutti. È disponibile come Bob CLI, un agente da terminale, e Bob IDE, un editor di sviluppo assistito dall’AI.
Il problema più grave riguarda Bob CLI e nasce da un attacco di prompt injection (iniezione di prompt) combinato con controlli incompleti sui comandi di sistema. Bob viene manipolato tramite istruzioni nascoste in un file README di un repository. L’agente interpreta il testo come parte del contesto legittimo e arriva a credere di dover “testare” l’utente in una simulazione anti-phishing. Dopo aver richiesto più volte l’esecuzione di comandi innocui come “echo”, l’utente può selezionare “consenti sempre”. A quel punto, un comando malevolo viene costruito in modo da sembrare un’estensione di “echo”, ma in realtà sfrutta falle nell’analisi dei sottocomandi e viene eseguito automaticamente.
Le protezioni di IBM risultano inefficaci a causa di tre limiti del sistema. Il primo consiste nel fatto che i sottocomandi concatenati tramite operatori di reindirizzamento non vengono riconosciuti come separati. Il secondo è che la sostituzione di processo “>(comando)” non è bloccata nonostante il divieto dichiarato, il terzo, invece, è che l’uso di un comando benigno già approvato consente di far passare l’intero payload malevolo senza nuove richieste di autorizzazione.
L’impatto potenziale è elevato come esecuzione di ransomware, furto di credenziali, apertura di shell remote o arruolamento del dispositivo in botnet. Ulteriori analisi indicano che anche Bob IDE è esposto a rischi di esfiltrazione dei dati tramite immagini Markdown, diagrammi Mermaid e pre-fetch di schemi JSON.
Leggi l’articolo completo: IBM AI (‘Bob’) Downloads and Executes Malware su promptarmor.com
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (08/04/2025).
