Rilevamento di Attacchi Avversari tramite Coerenza Multi-Task nei Sistemi di Visione

Un nuovo articolo di ricerca su arXiv (2608.07750) propone un metodo efficiente per rilevare attacchi avversari in reti neurali profonde (DNN) utilizzate nei sistemi di percezione visiva, in particolare per la guida autonoma. Il metodo sfrutta la percezione multi-task, dove le incongruenze tra le uscite di diversi compiti visivi (ad esempio, rilevamento di oggetti e segmentazione delle istanze) segnalano la presenza di perturbazioni avversarie. Gli autori hanno sviluppato una metrica di punteggio di coerenza per misurare queste incongruenze e hanno progettato un approccio per selezionare coppie di modelli ottimali per un rilevamento efficace. L'approccio mira a essere efficiente in termini di costi, affrontando l'impracticalità delle difese esistenti per applicazioni con risorse limitate. L'articolo è stato annunciato come una sottomissione di tipo incrociato su arXiv. La ricerca affronta le crescenti preoccupazioni sulla vulnerabilità delle DNN in applicazioni critiche per la sicurezza come la guida autonoma, dove gli attacchi avversari potrebbero portare a guasti catastrofici. Lo schema di rilevamento proposto offre una direzione promettente per migliorare la robustezza di tali sistemi senza un sovraccarico computazionale significativo.