La clonazione vocale generata dall’IA sta iniziando a rappresentare una minaccia crescente per la democrazia e la sicurezza personale, come dimostrato dall’esperienza di Georgina Findlay, presentatrice del canale YouTube TLDR News. La sua voce è stata clonata e utilizzata senza consenso per diffondere propaganda di estrema destra sulla piattaforma, in un fenomeno che illustra chiaramente il pericolo dei deepfake audio (figuriamoci video). Questi strumenti, in rapida evoluzione tecnologica, non solo alimentano la disinformazione ma sono in grado di aggirare controlli bancari e truffare in diversi modi gli individui.
La situazione è aggravata dalla mancanza di leggi adeguate sul diritto alla propria voce, come dimostrano i casi di figure pubbliche, tra cui David Attenborough e Scarlett Johansson, vittime di clonazioni vocali. Nonostante alcune iniziative legislative e tecnologiche in corso, come il sistema Eithos in Europa e proposte di legge negli Stati Uniti, gli esperti avvertono che la crisi potrebbe avere conseguenze gravi, arrivando persino alla violenza di massa o al furto elettorale.
Accanto a questi rischi, tuttavia, emergono potenziali benefici: cloni vocali possono restituire la voce a chi l’ha persa per motivi di salute, o offrire conforto a chi cerca di affrontare un lutto.
Leggi l’articolo completo: ‘You’re gonna find this creepy’: my AI-cloned voice was used by the far right. Could I stop it? su theguardian.com.
Immagine generata tramite DALL-E 3.
