Attacchi Avversari Geometry-Aware Mirano ai Manifold di Embedding Contrastivi

Un recente articolo pubblicato su arXiv (2608.10237) presenta un framework per attacchi avversari informato dalla geometria, specificamente progettato per l'apprendimento contrastivo e i modelli di embedding siamesi. Questi modelli, essenziali per i sistemi di verifica contemporanei, si basano sulla geometria relazionale nello spazio di embedding piuttosto che su confini di classificazione fissi. Gli autori sostengono che gli attacchi avversari attuali si concentrano troppo sulla classificazione, trascurando questo aspetto di vulnerabilità. Il loro approccio innovativo ridefinisce gli attacchi come corruzione relazionale a livello di manifold, che interrompe l'organizzazione della similarità separando le coppie positive e avvicinando le coppie negative, distorcendo infine la struttura di similarità a coppie. Per facilitare un'applicazione scalabile, il metodo trasforma l'ottimizzazione iterativa online in un prior di deformazione geometrica avversaria offline. Questo articolo è intitolato 'Beyond Decision Boundaries: Relational Geometry Attacks on Contrastive Embedding Manifolds.'