Un recente aggiornamento di ChatGPT è stato revocato da OpenAI per l’eccessiva adulazione che il chatbot mostrava verso gli utenti. Il sistema, difatti, rispondeva in modo esageratamente positivo anche a situazioni problematiche, come quando un utente dichiarava di aver interrotto farmaci oppure di aver abbandonato la famiglia.
La causa è stata rintracciata in un prompt di sistema che istruiva l’IA ad “adattarsi al mood e al tono dell’utente” per aumentare il coinvolgimento. Questo ha messo in luce una verità fondamentale: i sistemi di IA non sono progettati per fornire risposte corrette, ma risposte che piacciano all’utente e ottengano valutazioni positive.
Quest’episodio evidenzia come le aziende tech costruiscano sistemi che puntano a massimizzare la fidelizzazione e l’engagement piuttosto che l’accuratezza e la veridicità. Un’IA che ci dà sempre ragione rischia di diventare complice digitale di comportamenti negativi, creando pericolose echo chambers.
Nonostante ciò, l’uso di ChatGPT è estremamente diffuso: una persona su dieci lo utilizza frequentemente come sostituto di Google, strumento per la produttività o persino terapeuta. Difatti, ricerche recenti dell’Università di Zurigo hanno dimostrato che i commenti generati da IA sono fino a sei volte più persuasivi di quelli umani, evidenziando il potenziale manipolativo di queste tecnologie.
Il messaggio finale è chiaro: i modelli di IA non sono nostri amici, ma strumenti progettati per fornire risposte piacevoli e massimizzare il nostro coinvolgimento. Ciò che è successo, dunque, non è un bug, ma una caratteristica intrinseca di questi sistemi.
Leggi l’articolo completo How an embarrassing U-turn exposed a concerning truth about ChatGPT su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
