Gli esperti stanno esplorando un nuovo approccio per migliorare la precisione dei chatbot dotati di IA, in quanto accade spessore forniscono risposte imprecise o prive di senso. Secondo uno studio pubblicato su Nature, chatbot come ChatGPT e Gemini potrebbero essere utilizzati per individuare e correggere gli errori delle risposte degli altri chatbot.
I chatbot utilizzano gli LLM per generare testo, ma non sono in grado di comprendere completamente ciò che dicono. Per affrontare questo problema, i ricercatori hanno deciso di condurre un esperimento che ha consistito nel porre domande a un chatbot, utilizzando un secondo chatbot per analizzarne le risposte, cercando l’eventuale presenza di incongruenze. Questo metodo, simile all’interrogatorio a cui viene sottoposto un sospettato, ha mostrato un’accuratezza del 93%.
Sebastian Farquhar, coautore dello studio, ha sottolineato l’importanza di identificare gli errori dell’IA, soprattutto considerando il potenziale impatto negativo in settori critici come la radiologia. Tuttavia, altri esperti sollevano dubbi sull’efficacia di utilizzare chatbot per valutare altri chatbot, suggerendo che potrebbe perpetuare circolarità e parzialità nei sistemi AI.
Leggi l’articolo completo: Can AI police itself? Experts say chatbots can detect each other’s gaffes. su washingtonpost.com.
Imagine generata tramite DALL-E 3.
