OpenAI cerca disperatamente qualcuno capace di impedire ai suoi modelli di fare danni, ma la posizione sembra maledetta: nessuno resiste più di un anno. Per questo l’azienda ha messo sul piatto una cifra record, mezzo milione di dollari annui, per trovare un responsabile della preparedness, la divisione incaricata di testare i modelli prima del lancio e stabilire se presentino rischi eccessivi.
A conferma di quanto detto, Sam Altman, amministratore delegato di OpenAI, ha definito la posizione “un lavoro stressante” nell’annuncio pubblicato a fine dicembre sul social network X. La figura, dunque, dovrà individuare le capacità pericolose dei modelli e decidere se un prodotto può o meno uscire sul mercato. Lo stipendio base è di 555mila dollari l’anno più azioni dell’azienda, con sede a San Francisco.
Il ruolo, tuttavia, non è nuovo. Difatti, OpenAI aveva istituito il team nel 2023 per studiare i rischi catastrofici legati all’intelligenza artificiale, dalla cybersecurity alle minacce biologiche, ma in due anni si sono avvicendati tre responsabili, nessuno oltre i dodici mesi. Il primo, Aleksander Madry del MIT, è stato riassegnato dopo meno di un anno, mentre i successori Joaquin Quinonero Candela e Lilian Weng hanno lasciato dopo pochi mesi.
Leggi l’articolo completo OpenAI cerca disperatamente un manager capace di impedire ai suoi modelli di fare del male, ma nessuno resiste su Wired.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (01/05/2025).
