Lo scorso mercoledì Anthropic ha pubblicato una versione aggiornata della Costituzione di Claude, documento che definisce i principi etici su cui si basa il chatbot. Presentata in concomitanza con l’intervento del CEO Dario Amodei al World Economic Forum di Davos, la nuova versione mantiene i principi originali del 2023 ma aggiunge maggiori dettagli su etica e sicurezza degli utenti.
Il testo di 80 pagine articola i quattro valori fondamentali su cui si fonda l’approccio (sicurezza, etica, conformità alle linee guida aziendali e utilità per gli utenti), chiarendo come questi principi dovrebbero tradursi nel comportamento di Claude. In linea con gli obiettivi di posizionamento, che puntano a distinguere Anthropic dai competitor per un approccio più prudente e orientato alla responsabilità, l’azienda utilizza da anni il sistema “Constitutional AI”, che addestra Claude attraverso principi etici anziché feedback umano. Per quanto riguarda l’etica, in particolare, Anthropic dichiara di essere particolarmente interessata alle capacità concrete di Claude di comportarsi eticamente in contesti reali e specifici, più che alla teorizzazione.
Nel finale del testo Anthropic solleva apertamente (con un certo drammatismo, commenta TechCrunch) il tema dello status morale e della possibile coscienza dell’IA. L’azienda parla di una questione “profondamente incerta”, ma seria e meritevole di considerazione, su cui si stanno interrogando anche eminenti filosofi della mente.
Leggi gli articoli completi:
- Anthropic revises Claude’s ‘Constitution,’ and hints at chatbot consciousness su TechCrunch
- Claude’s new constitution sul sito di Anthropic
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (24/06/2025).
