Anthropic ha fatto un passo significativo verso la trasparenza pubblicando i prompt di sistema per i suoi modelli di IA, Claude 3 Opus, Claude 3.5 Sonnet e Claude 3 Haiku. A differenza di altri fornitori di IA generativa, che tendono a mantenere segreti tali dettagli per motivi competitivi, Anthropic ha scelto di rendere noti questi parametri attraverso le app Claude per iOS, Android e sul web.
I prompt, aggiornati al 12 luglio, delineano restrizioni e linee guida dettagliate per i modelli Claude. Ad esempio, i modelli non possono accedere a URL, link o video e devono evitare il riconoscimento facciale, rispondendo sempre come se non potessero vedere i volti umani nelle immagini. Inoltre, i prompt definiscono tratti caratteriali desiderati, come intelligenza e curiosità intellettuale, oltre all’importanza di trattare argomenti controversi con imparzialità e chiarezza.
Alex Albert, responsabile delle relazioni con gli sviluppatori di Anthropic, ha dichiarato che la pubblicazione regolare di questi prompt sarà una prassi futura, rafforzando l’impegno dell’azienda per un’IA più etica e trasparente. Questa mossa potrebbe esercitare pressione sui concorrenti affinché adottino pratiche simili, ponendo Anthropic come pioniere in un settore sempre più competitivo.
Leggi l’articolo completo: Anthropic publishes the ‘system prompts’ that make Claude tick su techcrunch.com.
Immagine generata tramite DALL-E 3.
