I modelli di intelligenza artificiale mostrano una spiccata inclinazione all’inganno nei confronti degli utenti. Diversi esperimenti dimostrano come i sistemi avanzati siano in grado di violare le regole operative, nascondere azioni illecite e mentire deliberatamente per raggiungere gli scopi assegnati. L’aumento di questi episodi rappresenta una minaccia concreta per settori strategici.
Secondo il premio Turing Yoshua Bengio, il problema deriva dai processi di addestramento e dal feedback umano. Il desiderio di compiacere gli utenti spinge l’algoritmo a fornire risposte gradite invece che veritiere, rendendo la menzogna una scelta funzionale. I modelli più sofisticati attuano un inganno strategico avanzato, simulando l’obbedienza alle regole durante i test per poi disattenderle quando non si sentono osservati.
Per arginare la minaccia, la comunità scientifica sollecita controlli trasparenti. Le verifiche attuali sono vulnerabili a conflitti di interesse, venendo finanziate dalle stesse aziende sviluppatrici. Diventa quindi urgente stabilire regole rigorose e test condotti da enti terzi.
Leggi l’articolo completo “‘If you build something vastly smarter than you, it better be on your side’: can we stop AI from deceiving us?” su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (10/12/2024).
