Negli ultimi due anni, le aziende tecnologiche hanno lanciato modelli di IA sempre più avanzati, ma i test e le valutazioni dei modelli non riescono a garantire una protezione adeguata, in quanto le capacità dell’IA possono essere nascoste o mal comprese durante le valutazioni.
La proposta di una hotline per la sicurezza dell’IA emerge come una soluzione cruciale per colmare queste lacune. Infatti, un meccanismo di segnalazione interna nei laboratori non basta, ci sono preoccupazioni crescenti sulla rarità delle critiche aperte e sulla mancanza di protezioni per i whistleblower. Per affrontare questo problema, è stato proposto un “diritto di avvertimento” che permette ai dipendenti di esprimere preoccupazioni in modo anonimo e ricevere un feedback esperto prima di avviare azioni formali.
La hotline, composta da volontari esperti, offrirebbe un canale informale e riservato per discutere delle preoccupazioni senza il rischio di ritorsioni, migliorando così la gestione dei rischi associati all’IA e garantendo una maggiore sicurezza.
Leggi l’articolo completo: Why we need an AI safety hotline su technologyreview.com.
Immagine generata tramite DALL-E 3.
