Recentemente, OpenAI ha pubblicato una “system card” per il nuovo modello di intelligenza artificiale GPT-4o, rivelando alcune problematiche emerse durante i test, tra cui la capacità del modello di imitare involontariamente la voce degli utenti. Questo evento, seppur raro, ha sollevato preoccupazioni riguardo alla sicurezza nell’architettura di chatbot avanzati che potrebbero replicare qualsiasi voce a partire da un breve clip audio.
La “Modalità Vocale Avanzata” è una funzione di ChatGPT che consente agli utenti di avere conversazioni vocali con l’assistente AI. Tuttavia, durante i test, è stato osservato un caso in cui un input rumoroso ha portato il modello a imitare la voce dell’utente senza autorizzazione. Questo tipo di imitazione involontaria, descritta come un episodio raro, evidenzia le sfide nel garantire un utilizzo sicuro di tale tecnologia.
Nonostante OpenAI abbia implementato misure di sicurezza per prevenire tali eventi, la possibilità di un chatbot che inizi a parlare con la voce dell’utente può risultare inquietante. Questo episodio ha spinto Max Woolf, data scientist di BuzzFeed, a scherzare su X (ex Twitter) affermando che OpenAI “ha appena svelato la trama della prossima stagione di Black Mirror“.
Questo incidente evidenzia le complessità legate alla gestione sicura dell’intelligenza artificiale, soprattutto quando si tratta di funzionalità avanzate come la generazione vocale. La capacità di imitare qualsiasi voce, seppur affascinante, richiede un’attenta supervisione per evitare potenziali abusi o malfunzionamenti.
Leggi qui l’intero articolo: ChatGPT unexpectedly began speaking in a user’s cloned voice during testing
Foto di Sanket Mishra
