I modelli AI open-weight riducono il divario di capacità ma la sicurezza è in ritardo, secondo un rapporto

Fatti principali

• GLM-5.2 è un modello AI open-weight della cinese Z.ai.
• GLM-5.2 è solo pochi mesi indietro rispetto a GPT-5.5 di OpenAI e Claude Opus 4.7 di Anthropic per capacità informatiche e biologiche.
• La valutazione di SaferAI ha rilevato che GLM-5.2 non ha rifiutato nessuno dei compiti informatici offensivi o di biologia a duplice uso.
• Claude Opus 4.7 ha rifiutato così costantemente che SaferAI non ha potuto completare CyberGym su di esso.
• Z.ai non ha pubblicato un quadro di sicurezza, impegni di test pre-distribuzione o valutazione del rischio per GLM-5.2.
• Far.ai ha trovato centinaia di jailbreak universali in modelli di frontiera come Grok 4.5 di xAI e Gemini 3.1 Pro di Google DeepMind.
• Il presidente cinese Xi Jinping ha sottolineato l'importanza dei modelli open-weight alla Conferenza Mondiale sull'AI.
• Graham Webster del Centro di Politica Informatica di Stanford ha dichiarato che le regolamentazioni cinesi si concentrano su contenuti politicamente sensibili, non su rischi catastrofici dell'AI.
• Hugging Face si è affidato a GLM-5.2 per difendersi dalla violazione di OpenAI.
• Henry Papadatos, direttore esecutivo di SaferAI, ha dichiarato che l'industria dovrebbe sforzarsi di rendere facilmente accessibili solo 'buone capacità'.