OpenAI ha annunciato che introdurrà un watermark invisibile nei testi generati da ChatGPT e Codex nell’Unione Europea. La misura risponde alle norme sulla trasparenza dell’AI Act in vigore dal 2 agosto, che impongono alle aziende di IA di marcare i contenuti IA in modo identificabile da altri sistemi.
Il watermark non consiste in un simbolo visibile, ma in una particolare distribuzione delle parole scelte dal modello durante l’elaborazione dell’output, che lascia nel testo una traccia riconoscibile da appositi sistemi di rilevamento. OpenAI ha pubblicato anche un report tecnico sul metodo, denominato textGrain, scritto con ricercatori delle università di Pennsylvania e Yale.
Nei test condotti, sostituire il 10% delle parole con sinonimi ha fatto scendere il tasso di rilevamento dal 92% al 66%; testi brevi, traduzioni e risposte matematiche risultano inoltre più difficili da identificare.
Il rollout inizierà nelle prossime settimane per gli utenti europei di ChatGPT e Codex su tutti i piani. A livello globale, invece, il watermark resterà disattivato di default, mentre gli sviluppatori che utilizzano le API OpenAI potranno abilitarlo volontariamente.
Leggi l’articoli completo: “OpenAI will start watermarking ChatGPT’s text in the EU” su TechCrunch
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (03/05/2025).
