Verifica Formale Basata su Z3 per la Sicurezza delle Sandbox AI di Frontiera

Uno studio recente introduce COBALT, un motore di verifica formale basato su Z3 SMT, progettato per identificare vulnerabilità aritmetiche in codice C/C++ che supporta il sandboxing per modelli AI avanzati. Questa ricerca è ispirata dalla violazione della sandbox Claude Mythos nell'aprile 2026, che ha rivelato un difetto significativo nel contenimento dell'AI. Sebbene Anthropic non abbia divulgato dettagli sul metodo di fuga, alcune analisi suggeriscono una potenziale vulnerabilità aritmetica CWE-190 nel codice di rete della sandbox. Lo studio si concentra sulla categoria di vulnerabilità piuttosto che sul meccanismo di fuga specifico. COBALT affronta i pattern di vulnerabilità aritmetica CWE-190/191/195 ed è stato testato su quattro casi di studio reali, tra cui NASA cFE, producendo risultati SAT con testimoni concreti e garanzie UNSAT entro limiti di sicurezza definiti. L'articolo è disponibile su arXiv con l'identificatore 2604.20496.