Nell’ambito di un programma interno denominato Project Lily, OpenAI starebbe impiegando centinaia di collaboratori esterni per leggere e valutare conversazioni reali degli utenti di ChatGPT. Lo rivela un’inchiesta di 404 Media, ripresa anche da Ansa, che ha visionato documenti interni relativi ai programmi di revisione umana usati per migliorare le risposte del chatbot.
Stando a quanto ricostruito, i revisori possono trovarsi davanti non solo a singoli prompt, ma anche a intere conversazioni tra utenti e ChatGPT. Le chat possono riguardare argomenti estremamente personali, come problemi familiari, salute, relazioni, lavoro, difficoltà psicologiche o altre informazioni che gli utenti potrebbero aver condiviso pensando di dialogare esclusivamente con un sistema automatizzato. I contractor assegnano valutazioni alle risposte generate dall’IA, contribuendo anche a correggere comportamenti problematici, come l’eccessiva accondiscendenza o la tendenza del modello ad antropomorfizzarsi. I documenti non chiariscono quale modello venga addestrato.
Secondo 404 Media, le chat sottoposte ai revisori possono però contenere informazioni personali e sensibili. OpenAI afferma di rimuovere i dati identificativi prima che le conversazioni arrivino ai revisori, che non vedono i nomi degli utenti, ma riconosce che alcuni dettagli privati possono comunque sfuggire ai filtri. In un altro articolo, la testata riferisce (non senza sottolineare il paradosso) che diversi contractor assunti per lavorare al miglioramento dei modelli sarebbero stati licenziati dopo essere stati scoperti a utilizzare strumenti IA per svolgere il proprio lavoro.
Leggi gli articoli completi:
- Inside ‘Project Lily’: The Humans Reading Your ChatGPT Chats su 404Media
- People Training OpenAI’s AI Fired for Using AI to Train the AI su 404Media
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (17/06/2025).
