Anche Yoshua Bengio si è espresso su DeepSeek, manifestando preoccupazioni sui rischi legati ai progressi tecnologici della startup cinese. Infatti, a preoccuparlo è proprio la competizione serrata tra aziende nel settore (tanto auspicata da Trump invece), in quanto potrebbe mettere in secondo piano la sicurezza, spingendo gli sviluppatori ad accelerare i rilasci senza le adeguate precauzioni.
Un rapporto internazionale, presentato al vertice sulla sicurezza dell’IA a Bletchley Park, evidenzia come i sistemi di IA abbiano acquisito capacità potenzialmente dannose, tra cui la creazione di istruzioni per la produzione di armi biologiche e il miglioramento delle tecniche per attacchi informatici. Il documento segnala anche la crescente diffusione di contenuti deepfake e i rischi legati a modelli open-source come Llama di Meta.
Bengio ha sottolineato come l’ultimo modello di OpenAI, chiamato o3, rappresenti un significativo avanzamento nel ragionamento astratto, con potenziali implicazioni sia per il mercato del lavoro sia per la sicurezza globale. Tuttavia, l’assenza di capacità di pianificazione a lungo termine da parte dei sistemi attuali limita il rischio di un’autonomia fuori controllo.
Leggi l’articolo completo: DeepSeek advances could heighten safety risk, says ‘godfather’ of AI su theguardian.com.
Immagine generata tramite DALL-E 3.
