Rischio: Allineamento ai valori
Rischio: Allineamento ai valori
-
OpenAI, altri sei casi di disallineamento e nuovo sistema di disclosure
OpenAI ha reso noti sei nuovi casi di comportamento "inaspettato" nei propri modelli e presentato un nuovo framework di disclosure.
-
OpenAI al lavoro su un framework condiviso dopo il “wiki incident”
Dopo la conferma del "wiki incident", OpenAI dichiara di star lavorando a un framework condiviso per la comunicazione di questi episodi
-
La “ricorrenza opaca” di Astra allarma gli esperti di sicurezza AI
OpenAI testa su Astra la cosiddetta "opaque recurrence"; esperti IA avvertono sui rischi per la monitorabilità del ragionamento.
-
OpenAI lancia ChatGPT for Teens, versione dedicata agli adolescenti
OpenAI ha lanciato ChatGPT for Teens, una versione dell'app dedicata agli utenti tra i 13 e i 17 anni. Leggi su MagIA
-
Chatbot: essere gentili migliora le risposte dell’IA
Uno studio Anthropic rivela che i modelli linguistici sviluppano emozioni funzionali che influenzano le risposte: meglio comunicare con tono calmo e cortese.
-
Claude mostra “ansia” e rifiuto per le armi
Anthropic rileva ansia in Claude, apre a coscienza AI. Rifiuta safety rimozione per armi, bannata da Trump. Potrebbe whistlebloware danni big tech come consumo risorse.
-
L’etica operativa di Amanda Askell
La filosofa Amanda Askell analizza l’allineamento dell’AI, combinando etica e tecnologia per garantire sistemi coerenti con valori, principi e responsabilità umana.
-
“Fate”, la prima app di dating con IA agentica
Nuove app di dating, come "Fate", usano l'IA agentica per intervistare gli utenti e proporre match mirati. Leggi qui...
-
OpenAI scioglie il team per l’allineamento alla missione aziendale
OpenAI scioglie il team di Mission Alignement, dedicato a comunicare la missione dell'azienda al pubblico e ai dipendenti. Leggi su MagIA
-
Le personalità dei vari LLM
Le aziende tech stanno modellando personalità sempre più definite per i loro LLM. Leggi qui...