Un gruppo di ricercatori del MIT ha fondato Themis AI per affrontare una delle principali criticità dell’IA, ovvero la capacità (o incapacità) dei modelli di riconoscere le proprie incertezze. Alcuni sistemi, come ChatGPT, risultano essere in grado di fornire risposte convincenti. Tuttavia, sembrerebbe che capiti spesso che non segnalino quando, invece, le loro conoscenze sono incomplete o inaffidabili. Questo limite potrebbe avere conseguenze anche rilevanti in ambiti ad alto rischio come la medicina, la guida autonoma e la sintesi di informazioni.
Themis AI ha quindi deciso di sviluppato Capsa, una piattaforma in grado di integrarsi con qualsiasi modello di machine learning per identificare rapidamente output incerti o errati e correggerli. Attraverso l’analisi dei pattern di elaborazione dei dati, Capsa permette ai modelli di “sapere ciò che non sanno” e di migliorare in modo autonomo la loro affidabilità.
Fondata nel 2021 da Daniela Rus, Alexander Amini ed Elaheh Ahmadi, Themis AI applica le proprie soluzioni a diversi settori, dalla pianificazione di reti di telecomunicazione all’industria petrolifera, fino alla scoperta di farmaci. Grazie a Capsa, i modelli linguistici di grandi dimensioni possono autovalutare la sicurezza delle loro risposte, mentre per i dispositivi edge si prospetta un utilizzo efficiente e affidabile anche fuori dall’ambiente cloud.
Leggi l’articolo completo: Teaching AI models what they don’t know su news.mit.edu.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
