B-SRA: Un Algoritmo di Addestramento Senza Gradiente per Migliorare la Robustezza della BAM
Un recente articolo pubblicato su arXiv (ID: 2511.11902) presenta l'Algoritmo di Rotazione del Sottospazio Bidirezionale (B-SRA), un nuovo approccio senza gradiente volto a migliorare la resilienza dei modelli di Memoria Associativa Bidirezionale (BAM). Le BAM tradizionali, che utilizzano la Retropropagazione Bidirezionale (B-BP), spesso mostrano vulnerabilità al rumore e alle minacce avversarie. Per mitigare questi problemi, gli autori introducono B-SRA, mostrando miglioramenti marcati sia nella robustezza che nei tassi di convergenza. La loro ricerca evidenzia due concetti fondamentali—matrici di peso ortogonali (OWM) e allineamento del gradiente con il pattern (GPA)—come cruciali per rafforzare le difese della BAM. Propongono anche nuove tecniche di regolarizzazione per la B-BP, portando a modelli che mostrano una resistenza significativamente migliore agli attacchi avversari e alla corruzione. Uno studio di ablazione è incluso per valutare varie strategie di addestramento per una robustezza ottimale. L'articolo è classificato come tipo replace-cross e può essere accessibile tramite l'URL sorgente fornito.
Fatti principali
- ID dell'articolo: arXiv:2511.11902
- Propone l'Algoritmo di Rotazione del Sottospazio Bidirezionale (B-SRA), un metodo di addestramento senza gradiente
- Mira a migliorare la robustezza dei modelli di Memoria Associativa Bidirezionale (BAM)
- Identifica le matrici di peso ortogonali (OWM) e l'allineamento del gradiente con il pattern (GPA) come principi chiave
- Introduce strategie di regolarizzazione nella Retropropagazione Bidirezionale (B-BP)
- Conduce uno studio di ablazione tra le strategie di addestramento
- Valuta le prestazioni in vari scenari di attacco
- Tipo di annuncio: replace-cross
Entità
Istituzioni
- arXiv