SALO: Nuovo metodo di rilevamento degli attacchi AI jailbreak sfrutta le traiettorie di rifiuto latenti

Un team di ricercatori ha introdotto SALO (Sparse Activation Localization Operator), un innovativo rilevatore progettato per identificare attacchi jailbreak all'IA durante l'inferenza. A differenza dell'ingegneria delle rappresentazioni convenzionale, che si basa su vettori di rifiuto fissi derivati da rappresentazioni terminali, questo approccio considera il rifiuto come un fenomeno dinamico e sparso. Utilizzando il Causal Tracing, i ricercatori hanno identificato una 'Traiettoria di Rifiuto'—una firma a monte consistente che persiste anche quando attacchi avversari come GCG attenuano i segnali terminali. SALO cattura efficacemente questi pattern sottostanti, migliorando i meccanismi di difesa contro attacchi di decodifica forzata e aumentando i tassi di rilevamento da quasi lo 0% a oltre il 90% in situazioni in cui i metodi dipendenti dallo stato terminale falliscono. La ricerca è pubblicata su arXiv nei campi dell'informatica, crittografia e sicurezza.