David Robinson, per tre anni alla guida della stesura dei report di sicurezza allegati ai modelli sviluppati da OpenAI, ha lasciato l’azienda esprimendo forti critiche nei confronti della cultura interna.
Su The Atlantic, Robinson scrive di condividere la preoccupazione di altri ex dipendenti sulla scarsa cautela delle aziende AI, ma invita a guardare oltre le regole e le leggi, chiamando in causa direttamente la cultura aziendale. Mentre OpenAI “passa di corsa da un lancio all’altro”, scrive, non riesce a garantire il livello di cura necessario. Robinson attribuisce il problema a un tratto più ampio della Silicon Valley, che a suo giudizio manca di consapevolezza su “come gestire una tecnologia pericolosa” e su “cosa significhi prendersi cura delle persone”. A suo avviso, l'”ottimismo senza freni” con cui OpenAI starebbe affrontando i problemi mano a mano che si presentano produrrebbe un rischio crescente di fallimenti di sicurezza con l’aumentare delle capacità dei sistemi.
Robinson precisa di non aver preso la decisione a cuor leggero, aggiungendo di credere nel valore e nell’utilità della tecnologia e di stimare i suoi ex colleghi. L’intenzione è ora quella di continuare il suo lavoro dall’esterno, nella speranza di far comprendere meglio i rischi osservati e di rafforzare gli incentivi a una maggiore sicurezza. Nel frattempo, propone di attingere all’esperienza maturata in settori ad alto rischio come il nucleare e l’aviazione, e auspica lo sviluppo di ulteriori conoscenze scientifiche per garantire che i sistemi più potenti restino controllabili quando operano in autonomia.
Leggi gli articoli completi:
- OpenAI safety leader quits, warning AI company’s culture is ‘broken’ su The Guardian
- “I Quit OpenAI Because Its Culture Is Broken” su The Atlantic
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
