I ricercatori del MIT hanno sviluppato un metodo più intelligente per allocare il calcolo durante la risoluzione di un problema in un LLM. Il loro metodo consente al modello di adattare dinamicamente il proprio budget computazionale in base alla difficoltà del quesito e alla probabilità che ogni soluzione parziale porti alla risposta corretta.
MIT researchers developed a smarter way for an LLM to allocate computation while it reasons about a problem. Their method lets the model dynamically adjust its computational budget based on the difficulty of the question and the likelihood that each partial solution will lead to the correct answer.
Fonte: MIT News | Massachusetts Institute of Technology
