Un fenomeno particolare ha recentemente attirato l’attenzione degli utenti di ChatGPT: ogni volta che veniva menzionato il nome “David Mayer”, il modello interrompeva sistematicamente la conversazione. Questo comportamento ha dato il via a speculazioni su possibili complotti, con alcuni che suggerivano che un influente individuo con lo stesso nome poteva aver costretto OpenAI a rimuovere il suo nome dalla piattaforma.
Tuttavia, dopo un’analisi più approfondita, è emerso che il motivo più plausibile sia legato alla conformità al GDPR, in particolare al “diritto all’oblio”. Questo diritto consente agli individui di richiedere la rimozione dei propri dati personali e OpenAI potrebbe aver implementato misure per evitare di trattare con persone che hanno esercitato tale diritto. La “lista nera” di nomi, quindi, non sarebbe una scelta misteriosa, ma una risposta a requisiti normativi.
Il modello si rifiutava di parlare del nome “David Mayer” con una corrispondenza esatta nel testo, ma poteva invece discuterne quando il nome veniva modificato (ad esempio sostituendo gli spazi con i caratteri di sottolineatura). È proprio questo a suggerire l’uso di una lista di rifiuto, una pratica comune in molte aziende per conformarsi a leggi come il GDPR. Mentre il comportamento di blocco è efficace per evitare contenuti problematici, la sua implementazione solleva preoccupazioni sulla possibilità di danni collaterali, come la discriminazione verso persone con lo stesso nome.
Leggi l’articolo completo: Updated:The Curious Case of David Mayer, the man ChatGPT cannot name. su centreforaileadership.org.
Immagine generata tramite DALL-E 3.
