SemBugger: Attacco Backdoor Polimorfico alla Comunicazione Semantica
I ricercatori propongono SemBugger, un attacco backdoor polimorfico mirato ai sistemi di Comunicazione Semantica (SC). A differenza dei backdoor monomorfici con un singolo bersaglio di attacco, SemBugger utilizza trigger a intensità graduata per controllare dinamicamente la conoscenza SC, consentendo output malevoli diversificati. L'attacco impiega un framework di addestramento con avvelenamento multi-effetto e una perdita malevola gerarchica, preservando la fedeltà di trasmissione mentre manipola gli output del sistema. Questo approccio migliora la diversità, l'efficienza e la flessibilità dell'attacco per scenari downstream eterogenei.
Fatti principali
- SemBugger è un attacco backdoor polimorfico per sistemi di Comunicazione Semantica.
- Utilizza trigger a intensità graduata per controllare dinamicamente la conoscenza SC.
- Il framework di attacco include addestramento con avvelenamento multi-effetto e perdita malevola gerarchica.
- Supera i limiti dei backdoor monomorfici con singoli bersagli di attacco.
- SemBugger preserva la fedeltà di trasmissione mentre genera output malevoli diversificati.
- L'approccio migliora la diversità, l'efficienza e la flessibilità dell'attacco.
- Prende di mira scenari downstream eterogenei.
- La ricerca è pubblicata su arXiv (2604.23231).
Entità
Istituzioni
- arXiv