L’Anthropic Institute ha pubblicato un documento in cui Anthropic sostiene la necessità di una pausa verificabile e coordinata tra più Paesi e laboratori nello sviluppo dei modelli di IA più avanzati.
L’analisi fa in particolare riferimento all’eventualità di uno scenario in cui un sistema IA diventi in grado di progettare autonomamente il proprio successore (una capacità chiamata recursive self-improvement, tradotto letteralmente auto-miglioramento ricorsivo), riducendo progressivamente il ruolo umano a sola supervisione. Anthropic sottolinea che questa possibilità potrebbe manifestarsi prima che le istituzioni siano in grado di gestirla. La proposta esclude esplicitamente una pausa unilaterale, ritenuta controproducente, poichè rallenterebbe solo gli attori più prudenti, lasciando spazio a concorrenti meno cauti.
Il documento, tuttavia, va letto anche alla luce degli interessi di chi lo produce. L’analisi si basa su modelli, codice e dati interni di Anthropic, non ancora verificati in modo indipendente. Vale la pena notare che presentare la tecnologia che si sta sviluppando come abbastanza avanzata da richiedere una pausa globale equivale a posizionarla implicitamente come la più capace sul mercato. Una narrativa di rischio e responsabilità, questa, che si concilia con gli interessi commerciali dell’azienda. L’appello arriva a pochi giorni dalla presentazione della domanda di IPO presso la SEC e dopo un round di finanziamento che ha portato la valutazione dell’azienda a circa 965 miliardi di dollari.
Leggi l’articolo completo: Perché Anthropic chiede un freno globale all’IA su Repubblica
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (04/12/2024).
