Tag: bias
Tag: bias
-
Collasso dei modelli: l’importanza dei dati umani per il futuro dell’IA
Come dettagliato in un articolo pubblicato su Nature, il collasso dei modelli è un fenomeno degenerativo e inevitabile che avviene quando le IA vengono allenate con dati che includono contenuti a loro volta generati artificialmente. Questo processo ricorsivo influenza negativamente la distribuzione che caratterizzava i dataset di riferimento delle prime versioni, composti da dati interamente…
-
Studio di OpenAI su pregiudizi nei LLM
OpenAI ha condiviso i risultati di uno studio sui pregiudizi nei LLM rivelando che ChatGPT può generare stereotipi di genere o razza in una risposta su 1000, con un tasso che arriva anche a una su 100 nel peggiore dei casi. Sebbene queste percentuali sembrino basse, considerando che 200 milioni di persone utilizzano ChatGPT ogni…
-
La Chain-of-thoughts: un approccio trasparente e innovativo
La Chain-of-thought AI (CoT) è un approccio innovativo che permette di rendere i sistemi di intelligenza artificiale più trasparenti e interpretabili, riducendo il problema della “scatola nera” nell’apprendimento automatico: spiegando, infatti, i passi del processo decisionale, si migliora la comprensione e, di conseguenza, si riesce a gestire meglio la responsabilità che ne deriva in settori…
-
Verso una governance etica dell’Intelligenza Artificiale: cooperazione e azione collettiva
Verso una governance etica dell’AI per ridurre bias, discriminazioni e rischi sociali legati al potere delle Big Tech. Leggi su MagI
-
Intelligenza Artificiale nella ricerca medica
L'Intelligenza Artificiale (IA) sta trasformando la medicina, migliorando l'accuratezza diagnostica, la gestione dei pazienti e la scoperta di nuovi farmaci. Successi notevoli includono l'uso del deep learning per l'analisi delle immagini mediche e AlphaFold di DeepMind per la previsione delle strutture proteiche. Durante la pandemia di COVID-19, l'IA ha accelerato lo sviluppo di vaccini. Tuttavia,…
-
Razzismo nell’IA sanitaria, una sfida etica prioritaria
L’IA sta trasformando il settore sanitario, ma emergono preoccupazioni significative riguardo al razzismo nei suoi algoritmi. Affrontare il razzismo come una questione etica è essenziale per sviluppare un’IA sanitaria equa e affidabile. Questo richiede un’esplorazione approfondita di come il razzismo strutturale influenzi la raccolta e l’uso dei dati, nonché la progettazione degli algoritmi, per garantire…
-
Intelligenza artificiale e superamento degli stereotipi di genere: opportunità o ulteriore ostacolo?
L'Intelligenza Artificiale (IA) potrebbe sia superare che perpetuare gli stereotipi di genere. Studi dimostrano che molti sistemi di IA sono intrinsecamente influenzati da pregiudizi di genere e razziali, riflettendo i dati di addestramento. Esperienze negative sui social media, come il cyberstalking e il revenge porn, evidenziano l'uso malevolo delle tecnologie. La presenza di assistenti virtuali…
-
Scorciatoie demografiche compromettono la precisione dei modelli di IA in medicina
Un nuovo studio svela come i modelli di IA utilizzati per analizzare immagini mediche potrebbero produrre diagnosi meno accurate per donne e persone nere. La ricerca, condotta presso il MIT, ha rivelato che tali modelli di IA, sebbene capaci di previsioni avanzate sull’etnia dei pazienti, spesso utilizzano scorciatoie demografiche, compromettendo la precisione nelle diagnosi. “Questo…
-
Does artificial intelligence present an opportunity or further obstacle to overcoming gender stereotypes?
Artificial Intelligence (AI) could both overcome and perpetuate gender stereotypes. Studies show that many AI systems are inherently influenced by gender and racial biases, reflecting the training data. Negative experiences on social media such as cyberstalking and revenge porn highlight malicious use of these technologies. The presence of virtual assistants with female voices and names…
-
Una Intelligenza Artificiale degna di fiducia
La crescente pervasività dell'intelligenza artificiale (AI) suscita reazioni contrastanti di paura e speranza. È necessario sviluppare un'etica solida per l'AI, evitando sia il catastrofismo tecnologico sia una fiducia acritica. I principi etici umani come beneficenza, non maleficenza, autonomia e giustizia sono fondamentali, ma potrebbero non essere sufficienti per affrontare le sfide uniche dell'AI moderna. È…