Tag: allucinazioni
Tag: allucinazioni
-
L’IA continua sbagliare
L’IA è in grado di distinguere tra verità e menzogna? Recentemente, Christopher Beam ha tentato di rispondere a questa domanda e per farlo ha scelto di utilizzare Coyote, un rilevatore di bugie basato sull’IA. Il risultato? Sua madre, che ha affermato di amare suo figlio Christopher, è stata giudicata ingannevole dal software, sebbene con un…
-
Google non è più quello di una volta
Nel corso degli anni, Google è stato il punto di riferimento per chi cercava risposte online, ma recenti segnalazioni sollevano interrogativi sullo stato del motore di ricerca. Il fisico Tom Faber, ha scoperto con sorpresa di essere stato erroneamente dichiarato morto da Google, un errore evidenziato dai problemi con i “knowledge panels” generati dagli algoritmi…
-
Rilevamento delle allucinazioni IA: un secondo LLM migliora l’accuratezza
Un recente studio ha introdotto un nuovo approccio per identificare le “allucinazioni” nei modelli linguistici, come ChatGPT. Utilizzando un secondo modello linguistico per esaminare le risposte generate da un primo LLM, i ricercatori possono valutare la coerenza e rilevare confabulazioni. Questo metodo, che misura l'”entropia semantica” delle risposte per identificare incoerenze, ha migliorato l’accuratezza nella…
-
Disinformazione e IA: il 30% dei modelli di IA diffonde notizie false
NewsGuard ha lanciato il suo nuovo rapporto mensile, AI News Misinformation Monitor, che valuta come i 10 principali modelli di IA rispondono a false affermazioni nelle notizie. In media, il 30% delle volte i modelli diffondono disinformazione e il 29% si rifiuta di rispondere a tali richieste. Ad esempio, un prompt basato su una falsa…
-
La ricerca AI tra svolte promettenti e problemi persistenti
La primavera scorsa sembrava segnare una svolta per la ricerca dell’IA, con grandi annunci da parte di Google e della startup Perplexity. Mentre Google lanciava AI Overviews, progettata per semplificare la ricerca online, Perplexity introduceva Pages, una funzione per creare pagine web personalizzate. Tuttavia, l’IA di Google, soggetta alle allucinazioni, ha fornito diverse risposte e…
-
Affrontare le allucinazioni degli LLM: Lamini introduce il Memory Tuning per un’IA più affidabile
Nel mondo dell’IA, gli LLM hanno rivoluzionato il modo in cui le persone interagiscono con la tecnologia, tuttavia non sono esenti da problemi. Uno dei principali e più discusso negli ultimi tempi è quello delle “allucinazioni”, ovvero quando i modelli generano informazioni errate o fuorvianti non supportate dai dati. Questo fenomeno compromette l’affidabilità delle risposte…
-
Chatbot che correggono altri chatbot, un nuovo approccio
Gli esperti stanno esplorando un nuovo approccio per migliorare la precisione dei chatbot dotati di IA, in quanto accade spessore forniscono risposte imprecise o prive di senso. Secondo uno studio pubblicato su Nature, chatbot come ChatGPT e Gemini potrebbero essere utilizzati per individuare e correggere gli errori delle risposte degli altri chatbot. I chatbot utilizzano…
-
McDonald’s rimuove l’IA dai drive-thru: impatti e critiche
McDonald’s ha recentemente annunciato la fine della sperimentazione con l’IA nei suoi drive-thru, rimuovendo i sistemi automatizzati da oltre 100 punti vendita negli Stati Uniti. Questa decisione è stata presa dopo un periodo di test avviato in collaborazione con IBM nel 2021, che aveva introdotto sistemi di ordinazione basati su chatbot dotati di IA per…
-
Dopo la colla sulla pizza, l’IA di Google continua a sbagliare
Sembrerebbe che da quando l’IA di Google ha suggerito di aggiungere della colla sulla pizza, la situazione non sia migliorata di molto. Colin McMillen su Bluesky ha osservato che se si chiede a Google quanta colla aggiungere sulla pizza, la risposta rimane sbagliata, infatti ha risposto suggerendo di aggiungere un ottavo di tazza di colla…
-
Google AI Overviews sotto accusa. Perché la funzione sbaglia?
Dopo che AI Overviews sia stata promossa come uno strumento in grado di “fare le ricerche per te”, è rapidamente finita nel mirino degli utenti per aver suggerito pratiche assurde come aggiungere colla alla pizza o mangiare piccoli sassi, oltre che per aver commesso errori storici importanti. Google ha riconosciuto i problemi e, tramite Liz…