In un rapporto pubblicato su arXiv, viene suggerito alle aziende tecnologiche di testare i sistemi di IA per valutare la coscienza e di sviluppare linee guida per affrontare scenari in cui l’IA possa sperimentare sentimenti o sofferenze. Molti ritengono che sia prematuro considerare tali possibilità. Altri esperti come Anil Seth e Jonathan Mason, invece, avvertono che ignorare l’eventualità di un’IA cosciente potrebbe comportare conseguenze profonde.
Le implicazioni riguardano sia il trattamento morale dei sistemi coscienti, sia il rischio di decisioni errate, come destinare risorse verso il welfare delle macchine a scapito di altri bisogni. La discussione è sostenuta da aziende come Anthropic, che ha assunto un ricercatore dedicato al welfare dell’IA, effettuando un cambiamento culturale nell’industria. Tuttavia, molte grandi aziende, tra cui Google e Microsoft, evitano il tema. Sembrerebbe persisti una generale reticenza nel considerare la coscienza dell’IA come priorità, come evidenziato dal recente rapporto dell’ONU sull’IA.
Nonostante le incertezze sul raggiungimento della coscienza da parte dei sistemi di IA, i ricercatori sottolineano l’importanza di sviluppare strumenti preliminari per valutarla. Secondo Jeff Sebo, anche protocolli iniziali e imperfetti rappresentano un progresso rispetto all’ignorare tale possibilità. Tuttavia, gli autori del rapporto sottolineano però che il welfare dell’IA non deve distrarre dagli obiettivi principali, ovvero garantire la sicurezza e i benefici dell’IA per tutti, umani inclusi.
Leggi l’articolo completo: What should we do if AI becomes conscious? These scientists say it’s time for a plan su nature.com.
Immagine generata tramite DALL-E 3.
