Gli esperti dell’Oxford Internet Institute hanno identificato un nuovo tipo di danno causato dai Large Language Models (LLM) che potrebbe minacciare le società democratiche nel lungo termine. La soluzione proposta? Creare nuovi obblighi legali per i fornitori di questi sistemi di AI.
Il problema del “careless speech”
In un nuovo studio pubblicato su Royal Society Open Science, i ricercatori dell’Università di Oxford hanno evidenziato come i LLM producano risposte apparentemente plausibili e convincenti, ma che spesso contengono:
- Inesattezze fattuali
- Riferimenti fuorvianti
- Informazioni distorte
Questo fenomeno, definito come “careless speech” (linguaggio incurante), rappresenta secondo gli studiosi un serio pericolo per:
- La ricerca scientifica
- L’educazione
- Il tessuto sociale nel suo complesso
“I LLM pongono un rischio unico per la scienza, l’educazione, la democrazia e la società che gli attuali quadri normativi non hanno previsto”, spiega la Prof.ssa Sandra Wachter, autrice principale dello studio. “La diffusione del careless speech causa danni sottili e immateriali difficili da misurare nel tempo, portando all’erosione della verità, della conoscenza e della storia condivisa.”
Le attuali regolamentazioni sono insufficienti
I ricercatori hanno analizzato gli attuali quadri normativi, tra cui:
- L’Artificial Intelligence Act
- Il Digital Services Act
- La Product Liability Directive
- L’Artificial Intelligence Liability Directive
Lo studio ha rivelato che le attuali normative forniscono meccanismi regolatori deboli per mitigare il careless speech, applicabili ai fornitori di LLM solo in un numero limitato di casi.
La proposta: un nuovo dovere legale
Gli accademici di Oxford propongono la creazione di un obbligo legale per i fornitori di LLM che li costringa a:
- Prioritizzare la veridicità degli output rispetto ad altri fattori come persuasività o redditività
- Essere trasparenti sui dati di training utilizzati
- Spiegare le limitazioni dei loro modelli
- Implementare funzioni di fact-checking
- Integrare sistemi di valutazione della confidenza negli output
“Gli attuali incentivi di governance si concentrano sulla riduzione della responsabilità degli sviluppatori e degli operatori e sulla massimizzazione del profitto, piuttosto che rendere la tecnologia più veritiera”, conclude la Prof.ssa Wachter.
L’importanza di un approccio democratico
Un aspetto cruciale evidenziato dalla ricerca è la necessità di un processo democratico e aperto per allineare i modelli alla verità, evitando la centralizzazione del potere nelle mani di poche big tech.
Per approfondire questi temi e contribuire al dibattito sulla regolamentazione dell’AI, vi invitiamo a consultare il sito dell’Oxford Internet Institute o a contattare direttamente gli autori dello studio.
Immagine di copertina generata tramite Flux.
Leggi l’articolo completo su Royal Society Open Science:
