SHIELD: Apprendimento Continuo Robusto tramite Iperreti e Interval MixUp
Il nuovo framework introdotto, SHIELD (Secure Hypernetworks for Incremental Expansion Learning Defense), affronta le difficoltà dell'apprendimento continuo in contesti avversari. Descritto in dettaglio su arXiv:2506.08255, SHIELD combina la propagazione dei bound degli intervalli (IBP) con un'architettura di iperrete per derivare parametri di modello specifici per compito da embeddings compatti, eliminando così la necessità di buffer di replay e repliche complete del modello. Un approccio di addestramento unico, chiamato Interval MixUp, crea esempi virtuali come palle ℓ∞ attorno ai punti MixUp, impiegando l'aritmetica degli intervalli per garantire robustezza certificata e confini decisionali più morbidi. Questo metodo è stato testato contro attacchi avversari significativi, dimostrando una maggiore robustezza e scalabilità.
Fatti principali
- 1. SHIELD integra la propagazione dei bound degli intervalli con le iperreti
- 2. Genera parametri specifici per compito tramite un'iperrete condivisa condizionata dagli embeddings del compito
- 3. Elimina la necessità di buffer di replay o copie complete del modello
- 4. Introduce la strategia di addestramento Interval MixUp
- 5. Interval MixUp fonde esempi virtuali come palle ℓ∞ attorno ai punti MixUp
- 6. Utilizza l'aritmetica degli intervalli per garantire robustezza certificata
- 7. Mitiga l'effetto di avvolgimento per confini decisionali più morbidi
- 8. Valutato in condizioni avversarie forti
Entità
Istituzioni
- arXiv