I ricercatori scoprono una lacuna che rende gli LLM meno affidabili

I ricercatori del MIT hanno scoperto che a volte i modelli linguistici di grandi dimensioni collegano erroneamente sequenze grammaticali a specifici argomenti, per poi basarsi su questi modelli appresi quando rispondono alle query. Ciò può causare il fallimento dei LLM in nuovi compiti e potrebbe essere sfruttato da agenti avversari per indurre un LLM a generare contenuti dannosi.

Researchers discover a shortcoming that makes LLMs less reliable

MIT researchers find large language models sometimes mistakenly link grammatical sequences to specific topics, then rely on these learned patterns when answering queries. This can cause LLMs to fail on new tasks and could be exploited by adversarial agents to trick an LLM into generating harmful content.

Fonte: MIT News | Massachusetts Institute of Technology