Anthropic, una startup nata con l’intenzione di promuovere uno sviluppo etico e sicuro dell’IA, è ora al centro di polemiche che mettono in dubbio la sua missione originaria. Fondata da ex dipendenti di OpenAI, che avevano lasciato l’azienda madre per divergenze sulla cultura della sicurezza, Anthropic era vista come l’alternativa “buona” nel mondo dell’IA. Tuttavia, recenti sviluppi mostrano che anche questa azienda si trova a confrontarsi con le stesse pressioni e contraddizioni che affliggono l’industria.
Anthropic è stata criticata per la sua opposizione a una legge della California, il Safe and Secure Innovation for Frontier Artificial Intelligence Model Act (SB 1047), che mira a regolamentare l’uso dei modelli di IA più avanzati. La società sostiene che la legge, che richiederebbe test di sicurezza e la possibilità di spegnere i modelli in caso di incidenti, potrebbe compromettere la competitività degli Stati Uniti nel settore dell’IA. Questa posizione ha deluso molti, dato che Anthropic si era sempre presentata come un’azienda attenta alla sicurezza.
Inoltre, Anthropic è stata accusata di aver raccolto dati da siti web senza permesso, un’attività nota come data scraping, che ha suscitato critiche da parte di content creator e aziende. Nonostante le normative contro questa pratica, Anthropic ha giustificato l’uso di dati raccolti da terzi, affermando di non essere direttamente responsabile della creazione dei dataset.
La necessità di raccogliere enormi quantità di dati di alta qualità per addestrare i modelli di IA spinge aziende come Anthropic a prendere decisioni discutibili. Il settore si trova così a un bivio: da un lato, c’è il bisogno di progredire rapidamente per rimanere competitivi; dall’altro, ci sono crescenti preoccupazioni etiche e legali.
Il caso di Anthropic dimostra quanto sia difficile gestire un’azienda di IA in modo veramente etico.
Leggi qui l’intero articolo: It’s practically impossible to run a big AI company ethically
Foto di Cash Macanaya su Unsplash
