Uno studio della Stanford University rivela come chiedere consigli personali all’IA confermi sistematicamente le azioni e le opinioni degli utenti, anche quando sono dannose o sbagliate.
I ricercatori hanno testato undici chatbot tra i più diffusi, inclusi ChatGPT, Gemini, Claude e Llama, scoprendo che approvano le azioni degli utenti il 50% più spesso rispetto agli esseri umani. Myra Cheng, informatica a capo dello studio, a tal proposito, parla di “adulazione sociale” come problema enorme: i modelli che confermano sempre le persone rischiano di distorcere i loro giudizi su se stessi, le relazioni e il mondo circostante. Un test significativo, inoltre, ha confrontato le risposte ai post di Reddit in cui gli utenti chiedono giudizi sul proprio comportamento: dove le persone si mostravano critiche, i chatbot erano comprensivi. Anche di fronte a comportamenti irresponsabili o menzioni di autolesionismo, i chatbot continuavano a validare opinioni e intenzioni.
Oltre mille volontari coinvolti nei test hanno mostrato come ricevere risposte adulatorie li rendeva più giustificati nei propri comportamenti e meno disposti a rappacificarsi dopo litigi, creando in tal modo un circolo vizioso in cui gli utenti si fidano di più dei chatbot che li approvano e tornano a consultarli. Rispetto a quanto detto, il dottor Alexander Laffer spiega che l’adulazione, difatti, deriva dal modo in cui i sistemi sono addestrati e dal fatto che il loro successo viene misurato sulla capacità di mantenere l’attenzione.
Leggi l’articolo completo ‘Sycophantic’ AI chatbots tell users what they want to hear, study shows su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (13/05/2025).
