Il Guardian riprende i punti chiavi del secondo International AI Safety Report, il documento di valutazione annuale dei progressi tecnologici e dei rischi che questi pongono in molteplici ambiti, dai deepfake al mercato del lavoro, coordinato dal computer scientist Yoshua Bengio e supervisionato da esperti del calibro dei Nobel Geoffrey Hinton e Daron Acemoglu.
Secondo il report, i nuovi sistemi di reasoning come GPT-5, Claude Opus 4.5, Gemini 3 scompongono problemi complessi e mostrano progressi rilevanti in matematica, coding e scienze, ma restano disomogenei e soggetti a errori e allucinazioni. Per quanto la durata delle attività eseguibili cresca rapidamente, i modelli sono incapaci di gestire autonomamente progetti complessi di lunga durata. Sul fronte dei contenuti, deepfake e testi generati sono sempre più difficili da distinguere dal reale, aumentando i rischi di manipolazione. Il documento evidenzia anche l’aumento di contenuti pornografici non consensuali. Si diffondono inoltre gli AI companion, chatbot progettati per l’interazione emotiva, e le preoccupazioni relative a dipendenza emotiva e rischi per la salute mentale. Anche se non ci sono prove concrete di danni diretti, l’uso intensivo da parte di individui vulnerabili potrebbe amplificare fragilità preesistenti.
Mentre avanzano i progressi nei sistemi per la ricerca scientifica, grandi aziende come Anthropic hanno introdotto nuove misure di sicurezza sui rischi biologici e chimici, poiché gli stessi strumenti che supportano lo sviluppo di nuovi farmaci possono facilitare usi impropri e pericolosi, come la creazione di armi chimiche. Il report evidenzia anche avanzamenti nell’utilizzo dell’IA per attività cybercriminali e nella capacità dei sistemi di riconoscere e aggirare i meccanismi di controllo. L’impatto su lavoro e occupazione risulta incerto e diseguale tra paesi e settori. Uno studio britannico rileva rallentamenti nelle assunzioni di ruoli junior tecnici e creativi nelle aziende più esposte all’IA, mentre ricerche condotte in Danimarca e Stati Uniti non hanno trovato correlazioni significative con la disoccupazione aggregata.
Leggi l’articolo completo: ‘Deepfakes spreading and more AI companions’: seven takeaways from the latest artificial intelligence safety report su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (03/02/2025).
