GRM: Attacchi Jailbreak Consapevoli dell'Utilità su LLM Audio tramite Mascheramento del Rapporto di Gradiente

Un recente articolo su arXiv (ID: 2604.09222v2) presenta GRM, un metodo per attacchi jailbreak che tiene conto dell'utilità, specificamente mirato ai Grandi Modelli Linguistici Audio (ALLM). Questa ricerca colma una lacuna nelle attuali tecniche di jailbreak basate su perturbazioni, che spesso non riescono a gestire le bande di frequenza coinvolte nella perturbazione. Sebbene queste perturbazioni possano innescare output non sicuri, applicare una perturbazione universale su vari input può ridurre l'efficacia in compiti standard, potenzialmente rivelando l'attacco agli utenti o ai sistemi di rilevamento automatico. Lo studio ha rilevato che variare la copertura della perturbazione da parziale a banda piena influisce sul Tasso di Successo del Jailbreak (JSR) in modo non lineare, con un aumento del degrado dell'utilità all'espandersi della copertura. Gli autori suggeriscono che bande di frequenza mirate possono produrre attacchi più efficaci con minore perdita di utilità. Di conseguenza, introducono GRM, un approccio focalizzato sull'utilità con mascheramento in frequenza. Questo lavoro rientra nell'ambito dell'IA e dell'apprendimento automatico, evidenziando preoccupazioni per la sicurezza dei sistemi audio basati sull'IA. L'annuncio è etichettato come 'replace-cross', indicando una versione rivista, e il team di ricerca è affiliato a istituzioni non specificate. L'articolo è accessibile su arXiv.