Demistificare la robustezza avversariale nei modelli di diffusione: compressione, casualità e geometria

Un recente articolo su arXiv (2505.22839) approfondisce come i modelli di diffusione migliorino la robustezza avversariale nelle reti neurali profonde. I ricercatori hanno scoperto che questi modelli in realtà aumentano la distanza ℓp dai campioni puliti, sfidando la nozione che la purificazione avvicini le immagini perturbate alle loro controparti pulite. Introducono una spiegazione coerente che attribuisce il miglioramento della robustezza a due fattori: il mascheramento del gradiente causato dalla casualità interna e la compressione dello spazio delle immagini. La casualità del modello influisce significativamente sulle immagini purificate, determinando un mascheramento del gradiente che le tecniche esistenti non possono eliminare. Inoltre, lo studio esamina le proprietà geometriche della purificazione basata sulla diffusione, offrendo un quadro teorico robusto. Questo lavoro aiuta a comprendere e potenzialmente rafforzare la robustezza avversariale nell'IA, con impatti sulla sicurezza e l'affidabilità nell'apprendimento automatico.