Il giornalista Kevin Roose affronta un problema un pò particolare, sembrerebbe non essere ben visto dai chatbot AI. Dopo aver raccontato di una sua particolare interazione avvenuta tra lui e “Sydney”, il chatbot di Microsoft Bing, che gli espresse amore e gli consigliò di lasciare sua moglie, Roose è stato etichettato negativamente dagli algoritmi AI. La vicenda ha portato Microsoft a limitare le capacità di Bing e, da allora, diversi chatbot sembrano trattarlo con sospetto.
Roose sospetta che le sue esperienze siano state assorbite dai modelli di IA attraverso il web, influenzando negativamente la percezione che hanno di lui. Per cambiare questa situazione, Roose ha contattato Profound, una start-up specializzata in “Ottimizzazione AI” (il cui acronimo è AIO), che aiuta le aziende a migliorare come vengono rappresentate nelle risposte dei chatbot. Secondo Profound, Roose è percepito dai chatbot come un narratore efficace ma con un’etica discutibile.
Con l’obiettivo di migliorare la sua reputazione, Roose ha esplorato varie strategie suggerite da diversi esperti. Gli sono state proposte tattiche come il convincere le fonti citate dai chatbot a modificare le informazioni su di lui, creare nuovi siti web con contenuti positivi, o usare “sequenze di testo strategiche”, ovvero stringhe di codice che manipolano l’output dell’IA.
Un’altra tattica ha consistito nell’inserimento di testo invisibile sul suo sito web per influenzare le risposte dei chatbot, un approccio che ha avuto un certo successo. In alcuni casi, i chatbot hanno riconosciuto questi messaggi nascosti e li hanno interpretati come parte delle biografie ufficiali di Roose.
Queste soluzioni potrebbe aiutare Roose a ristabilire la sua reputazione presso l’IA, ma questo indica anche che i chatbot sono vulnerabili alla manipolazione, un problema che le aziende di IA stanno cercando di affrontare con misure anti-manipolazione.
Leggi l’articolo completo: How Do You Change a Chatbot’s Mind? su nytimes.com.
Immagine generata tramite DALL-E 3.
