Framework di attacco evasion white-box sconfigge gli auditor IA spiegabili

Un nuovo articolo di ricerca su arXiv (ID 2608.00566) introduce un framework di attacco evasion white-box con regolarizzazione del gradiente in grado di ingannare gli auditor IA spiegabili. Il framework, chiamato 'Crushing the Evidence', utilizza un approccio dual-penalty a embedding continuo per penalizzare direttamente gli output di spiegazione, nascondendo così bias algoritmici o backdoor. Questo attacco è più potente dei precedenti attacchi black-box, che si basavano su rilevatori out-of-distribution (OOD) di supporto. L'articolo evidenzia una vulnerabilità critica negli spiegatori post-hoc come LIME, SHAP e Integrated Gradients, ampiamente utilizzati per auditare modelli in settori ad alto rischio come finanza, sanità e assistenza sociale. Sebbene siano state sviluppate difese per neutralizzare gli attacchi black-box identificando impronte di perturbazione anomale, questo nuovo attacco white-box bypassa tali difese. La ricerca sottolinea la necessità di metodi di spiegabilità più robusti per garantire trasparenza e responsabilità nei sistemi IA.