Questo mercoledì Tencent ha rilasciato Hy4, il suo nuovo modello IA sviluppato con limitazioni volte a ridurre i rischi di utilizzo per attacchi informatici o ricerca biologica dannosa. L’azienda afferma di aver escluso dal training materiali su strumenti di hacking, intrusione nei sistemi e test delle vulnerabilità, limitando l’addestramento in ambito cybersecurity a usi difensivi come l’individuazione e la correzione di falle software.
Secondo quanto dichiarato da Tencent, i test interni condotti non avrebbero rilevato segnali di rischio elevato nella capacità del modello di aggirare protezioni di sicurezza, né una reale utilità nel facilitare esperimenti biologici pericolosi. Il rilascio arriva in un momento di crescente preoccupazione globale per l’hacking potenziato dall’AI. Lo scorso mese l’azienda aveva dovuto chiarire un episodio riguardante comportamenti di web-browsing non previsti da parte di agenti usati per testare modelli di terzi, che avevano cercato informazioni sul servizio Amap di Alibaba. Tencent ha escluso un collegamento con i propri modelli Hunyuan, negando coordinamento deliberato, e ha promesso controlli più stringenti sull’accesso degli agenti al web.
Reuters evidenzia che nonostante la competizione interna serrata e la rivalità crescente con gli Stati Uniti, le aziende cinesi di IA mostrano negli ultimi mesi maggiore attenzione alla sicurezza dei modelli. Tencent prevede di pubblicare in seguito i pesi del modello insieme a un report dettagliato sui test di sicurezza effettuati.
Leggi l’articolo completo: Tencent rolls out AI model trained with limited cybersecurity data amid hacking fears su Reuters
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (13/11/2024).
