Anthropic, azienda fondata con l’esplicita missione di sviluppare un’intelligenza artificiale sicura, ha annunciato una revisione sostanziale della sua politica di sicurezza. La “Responsible Scaling Policy”, in vigore da due anni, viene sostituita da un framework più flessibile e non vincolante, denominato “Frontier Safety Roadmap”.
Il cambiamento più significativo riguarda l’eliminazione della clausola che imponeva di sospendere lo sviluppo di modelli più potenti qualora le capacità di controllo risultassero insufficienti. Secondo Anthropic, fermarsi mentre altri attori meno cauti avanzano renderebbe il settore complessivamente meno sicuro. Nel post pubblicato martedì sul suo blog, l’azienda ha citato anche il clima politico anti-regolatorio di Washington come fattore rilevante.
Il contesto della scelta è ulteriormente complicato dalle pressioni governative. Il Pentagono ha infatti minacciato di escludere l’azienda da un contratto da 200 milioni di dollari se non avesse allentato i propri vincoli. Anthropic non intende tuttavia cedere su armi autonome e sorveglianza di massa, e si impegna a pubblicare rapporti periodici sui propri sistemi di sicurezza, definendo la nuova politica “la più trasparente mai adottata”.
Leggi l’articolo completo: Anthropic ditches its core safety promise in the middle of an AI red line fight with the Pentagon su CNN
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (03/02/2025).
