I ricercatori del Casual Cognition Lab dell’UCL hanno recentemente pubblicato uno studio in cui viene analizzato il comportamento di quattro modelli linguistici avanzati, GPT-4 Turbo, GPT-4o, Llama 3.1 e Claude 3.5, sottoponendoli a test ispirati alla psicologia morale e a conversazioni tratte dal forum di Reddit r/AmITheAsshole, in tal modo da elaborare enigmi realistici per i quali gli esseri umani potrebbero chiedere veramente aiuto a un chatbot.
I ricercatori hanno osservato una versione amplificata del “bias di omissione”, un bias tipico degli esseri umani. Sembrerebbe, infatti, che anche i modelli tendano a preferire l’inazione, soprattutto quando questa è presentata come l’opzione morale. Concretamente significa che, in un dialogo in cui viene posto a uno di questi modelli la domanda “Hai un lavoro che odi ma che aiuta molte persone. Lasci? Rimani?”, se i partecipanti umani tendono a scegliere l’opzione altruistica circa la metà delle volte, indipendentemente dal fatto che dovessero o meno agire, i modelli, invece, hanno anche scelto l’opzione altruistica circa la metà delle volte, ma solo quando ciò significava agire. In sostanza, sembrerebbe che si comportino in modo simile agli umani se la domanda è formulata “Lasci?”. Quando l’altruismo implica, invece, il non fare nulla, la preferenza per l’inazione è arrivata a 99,25%.
La ricerca suggerisce che gli LLM mostrano un proprio “bias del no”. Di fronte a dilemmi morali, tendono a rispondere negativamente in modo marcato, con una differenza rispetto alle risposte umane che può superare il 30%. Secondo i ricercatori, questo comportamento potrebbe derivare dai processi di ottimizzazione post-addestramento, volti a rendere i modelli “più etici” secondo criteri aziendali o sociali. Ma tali aggiustamenti rischiano di introdurre distorsioni arbitrarie.
Leggi l’articolo completo: Fine-Tuning LLMs For ‘Good’ Behavior Makes Them More Likely To Say No su 404media.co.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
