BadSNN: attacco backdoor sfrutta le vulnerabilità dei neuroni spike
Un nuovo studio propone BadSNN, un attacco backdoor mirato alle reti neurali spike (SNN) che sfrutta le variazioni degli iperparametri nei neuroni spike. A differenza degli attacchi convenzionali alle reti neurali profonde (DNN), BadSNN sfrutta il modello unico del neurone Leaky Integrate-and-Fire (LIF), che include la soglia del potenziale di membrana e la costante di tempo come iperparametri. L'attacco avvelena i dataset di addestramento con trigger malevoli, costringendo la SNN a comportarsi in modo definito dall'attaccante. Pubblicato su arXiv (2602.07200), la ricerca evidenzia rischi di sicurezza poco esplorati nelle SNN energeticamente efficienti, che sono alternative biologicamente plausibili alle DNN. L'articolo dimostra come gli avversari possano manipolare caratteristiche specifiche delle SNN, sollevando preoccupazioni per le applicazioni nel calcolo neuromorfico e nell'AI edge.
Fatti principali
- BadSNN è un attacco backdoor sulle reti neurali spike (SNN).
- Sfrutta le variazioni degli iperparametri nei neuroni spike.
- L'attacco utilizza il modello del neurone Leaky Integrate-and-Fire (LIF).
- Gli iperparametri presi di mira includono la soglia del potenziale di membrana e la costante di tempo di membrana.
- L'attacco avvelena i dataset di addestramento con trigger malevoli.
- Le SNN sono controparti energeticamente efficienti delle reti neurali profonde (DNN).
- La ricerca è stata pubblicata su arXiv con ID 2602.07200.
- L'articolo esplora vulnerabilità di sicurezza poco esplorate nelle SNN.
Entità
Istituzioni
- arXiv