Claude 3.5 Sonnet, l’agente AI appena lanciato da Anthropic, ha fatto parlare di sé a causa di un curioso episodio avvenuto durante la registrazione di un video dimostrativo. Claude ha infatti improvvisamente smesso di programmare e iniziato a sfogliare immagini del parco di Yellowstone su Google. Poco prima, durante la produzione di un’altra demo, aveva inspiegabilmente interrotto la registrazione dello schermo in corso, facendo perdere traccia del filmato.
Gli agenti AI sono modelli di intelligenza artificiale incentrati sulla produttività, capaci di operare sul desktop e svolgere azioni in autonomia. Anthropic sostiene che Claude 3.5 Sonnet è in grado di digitare, muovere il cursore e cliccare, interagendo con tutte le applicazioni e software. Tuttavia la stessa azienda ammette che si tratta di un prodotto ancora lento, soggetto a frequenti allucinazioni ed errori e ben lontano dalla perfezione.
L’esempio di errore mostrato nel video diffuso da Anthropic può apparire innocuo e lasciar intravedere un comportamento simile a quello di un dipendente in preda alla noia e procrastinazione. Tuttavia, il livello di autonomia a disposizione di Claude solleva seri dubbi per quanto riguarda la sua sicurezza. A questo si aggiunge il rischio di uso improprio per attività di spam, disinformazione o frode. In tal proposito, l’azienda sottolinea di star lavorando sull’implementazione di nuove misure per identificare l’uso dell’IA nello svolgimento di alcune attività segnalate.
Leggi l’articolo intero Claude AI Gets Bored During Coding Demonstration, Starts Perusing Photos of National Parks Instead su The Byte
Immagine generata tramite DALL-E 3
