I modelli AI open-weight riducono il divario di capacità ma la sicurezza resta indietro, secondo un rapporto

Fatti principali

• GLM-5.2 è un modello AI open-weight della cinese Z.ai.
• GLM-5.2 è solo pochi mesi indietro rispetto a GPT-5.5 di OpenAI e Claude Opus 4.7 di Anthropic sulle capacità cyber e bio.
• La valutazione di SaferAI ha rilevato che GLM-5.2 non ha rifiutato nessuno dei compiti offensivi cyber o di biologia a duplice uso.
• Claude Opus 4.7 ha rifiutato così costantemente che SaferAI non ha potuto completare CyberGym su di esso.
• Z.ai non ha pubblicato un quadro di sicurezza, impegni di test pre-distribuzione o valutazione del rischio per GLM-5.2.
• Far.ai ha trovato centinaia di jailbreak universali in modelli di frontiera come Grok 4.5 di xAI e Gemini 3.1 Pro di Google DeepMind.
• Il presidente cinese Xi Jinping ha enfatizzato l'importanza dei modelli open-weight alla World AI Conference.
• Graham Webster del Cyber Policy Center di Stanford ha affermato che le regolamentazioni cinesi si concentrano su contenuti politicamente sensibili, non su rischi catastrofici dell'IA.
• Hugging Face si è affidata a GLM-5.2 per difendersi dalla violazione di OpenAI.
• Henry Papadatos, direttore esecutivo di SaferAI, ha affermato che l'industria dovrebbe sforzarsi di rendere facilmente accessibili solo le 'buone capacità'.