Entro il 2030 l’umanità potrebbe trovarsi di fronte a una scelta determinante per lo sviluppo dell’intelligenza artificiale: consentire ai sistemi di auto-addestrarsi per migliorare autonomamente le proprie capacità. Lo sostiene sul The Guardian Jared Kaplan, scienziato capo di Anthropic, che definisce questa prospettiva “il rischio ultimo”. Il processo di auto-miglioramento ricorsivo – in cui i sistemi IA addestrano le generazioni successive senza supervisione umana – potrebbe dar luogo a enormi progressi in ambiti critici come la ricerca biomedica, ma pone il rischio della perdita di controllo.
La decisione sull’auto-addestramento autonomo solleva due ordini di questioni: la possibilità di comprendere e controllare sistemi che evolvono senza intervento umano, garantendo che restino utili; e la sicurezza, considerando che capacità superiori potrebbero risultare pericolose se accessibili a chi intenda usarle in modo dannoso.
Kaplan evidenzia la rapidità dei progressi attuali, citando ricerche indipendenti secondo cui la durata dei compiti gestibili dall’IA sta raddoppiando ogni sette mesi. Anthropic è parte di una corsa competitiva verso l’intelligenza artificiale generale (spesso abbreviata AGI, ma è importante ricordare che il termine non ha ancora una definizione condivisa e rimane in gran parte speculativo) che coinvolge OpenAI, Google DeepMind, xAI e rivali cinesi, in un clima che Kaplan descrive come “molto intenso”.
La preoccupazione principale riguarda il ritmo di questi cambiamenti, e dunque il fatto che la società potrebbe non avere tempo sufficiente per comprenderne le implicazioni. Lo scienziato si dichiara ottimista sull’allineamento dell’IA agli interessi umani fino al livello dell’intelligenza umana, ma esprime preoccupazione per gli scenari in cui i sistemi superino tale soglia.
Leggi l’articolo completo: ‘The biggest decision yet’: Jared Kaplan on allowing AI to train itself su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (21/04/2025).
