Scorciatoia del Rifiuto Scoperta nei Modelli di Sicurezza

Una recente indagine pubblicata su arXiv (2608.03201) scopre un grave difetto nei modelli di sicurezza AI. Lo studio ha esaminato due importanti dataset di addestramento per la sicurezza, WildGuardMix e GR-Train, rivelando che le espressioni di rifiuto compaiono prevalentemente insieme a etichette non dannose quando si risponde a prompt dannosi. Questo porta a quella che i ricercatori descrivono come la 'scorciatoia del rifiuto', dove l'aggiunta di un segnale di rifiuto a una risposta dannosa può alterare la valutazione del guardiano da dannoso a non dannoso. Questo problema non riguarda solo i modelli addestrati su questi dataset, ma anche modelli rilasciati ufficialmente come LlamaGuard3 e Qwen3Guard, che hanno dati di addestramento non divulgati. La vulnerabilità è più pronunciata nelle varianti di modello più piccole e persiste in diverse posizioni di risposta. Per affrontare questo problema, i ricercatori hanno implementato un intervento post-hoc leggero chiamato mascheramento complementare sparso, che mira e mitiga un numero limitato di testine di attenzione legate alla scorciatoia. Questo studio sottolinea una grave debolezza nei sistemi di sicurezza esistenti, sollevando allarmi sulla loro efficacia nel filtrare contenuti dannosi.