OpenAI ha sviluppato un sistema per inserire un “watermark” (una sorta di firma digitale) nei testi generati da ChatGPT e uno strumento per rilevare questi watermark, disponibile già da circa un anno.
Tuttavia, all’interno dell’azienda ci sono divergenze sull’opportunità di renderlo pubblico. Da un lato, questa soluzione potrebbe essere vista come una mossa responsabile; dall’altro, potrebbe influire negativamente sui profitti.
L’offerta di strumenti per rilevare testi generati dall’intelligenza artificiale potrebbe essere un valido aiuto per insegnanti che vogliono scoraggiare gli studenti dall’utilizzare ChatGPT per svolgere i compiti. Secondo il Wall Street Journal, il watermark non ha compromesso la qualità del testo prodotto dai chatbot. Inoltre, un sondaggio commissionato da OpenAI ha rivelato che a livello globale, le persone sono favorevoli all’idea di uno strumento di rilevamento dei testi generati da AI.
OpenAI azienda afferma che il metodo è molto accurato (con un’efficacia del 99,9% secondo i documenti visionati dal Journal). Tuttavia, l’azienda di Sam Altman riconosce che tecniche come la riformulazione del testo tramite un altro modello rendono il watermark facilmente aggirabile da parte dei più malintenzionati. Si aggiunge poi un’ulteriore preoccupazione legata alla stigmatizzazione degli strumenti di intelligenza artificiale per i non madrelingua.
OpenAI ha dichiarato nel blog che è nelle fasi iniziali di esplorazione dell’inserimento di metadati crittograficamente firmati. Sebbene sia ancora troppo presto per sapere quanto funzionerà, l’azienda afferma che questo metodo non genererebbe falsi positivi.
Leggi qui l’intero articolo: OpenAI won’t watermark ChatGPT text because its users could get caught
Foto di Andrew Neel
