Studio Contesta il Tasso di Successo degli Attacchi come Unica Metrica per la Sicurezza dell'IA nell'Imaging Medico

Un nuovo articolo di ricerca mette in discussione l'adeguatezza del Tasso di Successo degli Attacchi (ASR) per valutare le vulnerabilità avversarie nell'IA per l'imaging medico. Pubblicato su arXiv con l'identificatore 2604.16532v1, lo studio sostiene che l'ASR fornisce un quadro incompleto ignorando fattori cruciali come l'intensità della perturbazione e la qualità dell'immagine. L'ascesa di architetture complesse come i Vision Transformer (ViT), che sfidano le tradizionali Reti Neurali Convoluzionali (CNN), complica ulteriormente le valutazioni di sicurezza. Questi diversi approcci di apprendimento rendono incerto se una singola metrica possa catturare efficacemente il comportamento avversario. La ricerca evidenzia serie preoccupazioni per il dispiegamento clinico man mano che l'apprendimento profondo diventa più diffuso nell'analisi delle immagini mediche. Per colmare questa lacuna, gli autori propongono un framework di valutazione multi-metrica. Il loro studio empirico sistematico esamina la trasferibilità degli attacchi avversari tra diverse architetture di modelli. Il lavoro sottolinea che le valutazioni delle vulnerabilità devono tenere conto della trasferibilità degli attacchi tra architetture per garantire sistemi di IA clinica robusti.