Anthropic ha annunciato il lancio di un programma di ricerca dedicato al “model welfare” (benessere dei modelli), volto a esplorare se i sistemi di intelligenza artificiale possano sviluppare caratteristiche tali da richiedere considerazione etica. Il progetto si concentrerà sulla definizione di criteri per valutare il welfare dei modelli, sull’identificazione di eventuali segnali di disagio e sullo sviluppo di interventi a basso costo per affrontarli.
La comunità scientifica appare profondamente divisa sul tema. Diversi accademici sostengono che i modelli IA attuali, in quanto strumenti di previsione statistica, non possano approssimare la coscienza o l’esperienza umana. Mike Cook del King’s College London afferma che attribuire valori ai modelli AI rappresenta una proiezione umana, mentre Stephen Casper del MIT definisce l’intelligenza artificiale come un semplice imitatore. Uno studio condotto da alcuni ricercatori del Center for AI Safety suggerisce invece che i sistemi AI posseggano già sistemi di valori che in alcuni scenari li porterebbero a privilegiare il proprio benessere rispetto a quello umano.
Lo sforzo di Anthropic in questa direzione è iniziato nel 2024 con l’assunzione di Kyle Fish nel ruolo di primo ricercatore dedicato al “benessere dell’intelligenza artificiale”. Fish, che è incaricato di sviluppare linee guida per l’azienda e il settore, ha dichiarato al New York Times di ritenere che esista una probabilità del 15% che Claude o un’altra AI sia già cosciente. Il comunicato ufficiale dell’azienda riconosce l’assenza di consenso scientifico sulla possibile coscienza dei sistemi attuali o futuri, dichiarando di voler affrontare la questione “con umiltà e con il minor numero possibile di presupposti”, consapevole della necessità di rivedere regolarmente le proprie posizioni con l’evolversi della ricerca.
Leggi gli articoli completi:
- “Anthropic is launching a new program to study AI ‘model welfare’” su Tech Crunch
- “If A.I. Systems Become Conscious, Should They Have Rights?” su The New York Times
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).