Google ha recentemente annunciato il lancio di PaliGemma 2, una famiglia di modelli di IA che punta a “identificare” le emozioni nelle immagini, andando oltre la semplice analisi degli oggetti.
Il riconoscimento delle emozioni non è ancora completamente operativo, tuttavia la prospettiva di un’IA capace di rilevare emozioni preoccupa molti esperti. I sistemi di analisi delle emozioni hanno già mostrato bias, come quello che porta a interpretare espressioni più negative sui volti delle persone nere rispetto a quelle bianche. Infatti, nonostante i test di Google su pregiudizi demografici, alcuni ricercatori dubitano dell’affidabilità dei benchmark utilizzati, come FairFace, che non rappresenta adeguatamente diversi gruppi razziali. La questione della lettura delle emozioni attraverso i tratti del viso è complessa e altamente soggettiva, con implicazioni culturali e personali.
La possibilità che PaliGemma 2 venga utilizzato in contesti ad alto rischio, come nelle forze dell’ordine o in ambito lavorativo, ha suscitato preoccupazioni per i danni che potrebbero derivare da un uso improprio, con discriminazioni verso gruppi marginalizzati.
Leggi l’articolo completo: Google says its new AI models can identify emotions — and that has experts worried su techcrunch.com.
Immagine generata tramite DALL-E 3.
