Un recente studio ha introdotto un nuovo approccio per identificare le “allucinazioni” nei modelli linguistici, come ChatGPT.
Utilizzando un secondo modello linguistico per esaminare le risposte generate da un primo LLM, i ricercatori possono valutare la coerenza e rilevare confabulazioni. Questo metodo, che misura l'”entropia semantica” delle risposte per identificare incoerenze, ha migliorato l’accuratezza nella rilevazione degli errori di circa il 10%.
Tuttavia, le sfide includono l’elevato consumo energetico e l’inevitabilità di alcune allucinazioni quando i modelli non hanno dati sufficienti.
Leggi l’articolo completo: Can One Chatbot Catch Another’s Lies? su scientificamerican.com.
Can One Chatbot Catch Another’s Lies?
A new approach uses language models to interrogate other language models and sniff out lies
Foto di cottonbro studio su Pexels.
