Massimizzazione Sequenziale della Differenza: Nuovo Metodo di Attacco Basato sul Gradiente
È stato sviluppato un nuovo metodo chiamato Massimizzazione Sequenziale della Differenza, o SDM, per valutare la robustezza di diversi modelli. Esso affronta il problema degli "esempi non avversari ad alta perdita", che è stato un problema per tecniche come APGD. SDM modifica l'obiettivo per creare un divario maggiore tra le probabilità delle etichette errate e l'etichetta corretta. Utilizza un processo di ottimizzazione a tre livelli chiamato "ciclo-fase-passo" e include sia una funzione di perdita di probabilità negativa sia una funzione di perdita del Rapporto di Differenza di Probabilità Direzionale. Puoi consultare la ricerca su arXiv con l'ID 2605.20308.
Fatti principali
- SDM è un nuovo metodo di attacco basato sul gradiente per valutare la robustezza dei modelli.
- Affronta il problema degli 'esempi non avversari ad alta perdita'.
- SDM riformula l'obiettivo per massimizzare la differenza tra il limite superiore della probabilità delle etichette non vere e la probabilità dell'etichetta vera.
- Utilizza un framework di ottimizzazione a tre livelli: ciclo-fase-passo.
- Il metodo impiega funzioni di perdita di probabilità negativa e DPDR.
- Metodi precedenti come APGD avevano difficoltà a ottenere progressi significativi.
- L'articolo è pubblicato su arXiv con ID 2605.20308.
- Il metodo è progettato per migliorare le prestazioni degli attacchi.
Entità
Istituzioni
- arXiv