Dopo che AI Overviews sia stata promossa come uno strumento in grado di “fare le ricerche per te”, è rapidamente finita nel mirino degli utenti per aver suggerito pratiche assurde come aggiungere colla alla pizza o mangiare piccoli sassi, oltre che per aver commesso errori storici importanti.
Google ha riconosciuto i problemi e, tramite Liz Reid, responsabile della Ricerca, ha annunciato miglioramenti tecnici per ridurre la probabilità di risposte errate. L’azienda ha però ammesso che i modelli di IA, inclusi quelli avanzati come Gemini utilizzato per AI Overviews, sono intrinsecamente soggetti a errori. Questi modelli, infatti, prevedono la parola successiva in una sequenza basandosi su calcoli statistici, il che li rende suscettibili a generare “allucinazioni”.
Nonostante l’adozione della tecnica di generazione aumentata dal recupero, detta anche RAG, che dovrebbe teoricamente migliorare l’accuratezza delle risposte, AI Overviews ha continuato a commettere errori significativi. Questo avviene quando il sistema fallisce sia nel recuperare le informazioni corrette sia nel generare risposte accurate. Per esempio, una risposta errata su una ricetta di pizza con colla è derivata da un post scherzoso su Reddit che il sistema ha considerato rilevante ma non corretto. Gli esperti sottolineano che la disinformazione può derivare anche da fonti apparentemente affidabili. Un esempio è stato l’errore nel definire Barack Obama come un presidente musulmano, basato su una lettura errata di un testo accademico.
Google sta implementando restrizioni per le query problematiche e miglioramenti tecnici, ma la strada per eliminare completamente gli errori sembra essere ancora lunga.
Leggi l’articolo completo: Why Google’s AI Overviews gets things wrong su technologyreview.com.
Immagine generata tramite DALL-E 3.
