Alcuni mesi fa Anthropic ha assunto Kyle Fish, il suo primo ricercatore dedicato al “benessere dell’IA”. Il suo compito consiste nell’indagare la possibilità futura di un’intelligenza artificiale cosciente e meritevole di considerazione morale e protezione.
Kyle Fish è co-autore di un importante paper (Taking AI Welfare Seriously) che sostiene la necessità di approfondire questa eventualità nell’attuale contesto di incertezza e rapida evoluzione. I ricercatori sottolineano che non è affatto semplice stabilire una definizione del concetto di “coscienza” in relazione all’IA. Si tratta infatti di un’esperienza soggettiva non quantificabile nè misurabile nei termini del metodo scientifico.
Tuttavia, la questione di un’ipotetica IA senziente può condurre a molteplici rischi. Le aziende potrebbero ad esempio sprecare risorse per salvaguardare sistemi che non hanno bisogno di considerazione morale. Oppure, attribuire erroneamente caratteristiche umane alle IA potrebbe aumentarne il potere manipolatorio. Il paper vuole essere un punto di partenza per una maggiore comprensione dell’argomento, necessaria allo sviluppo di linee guida etiche in questo senso.
Oltre ad Anthropic, anche Google Deepmind sembra star esplorando questioni simili. Nei ringraziamenti del report, inoltre, figurano due esperti di OpenAI.
Leggi l’articolo completo “Is “AI welfare” the new frontier in ethics?” su Ars Technica
Immagine generata con DALL-E 3
