Valutazione dei metodi XAI per dati statici e in evoluzione in DetoxAI
Un nuovo articolo da arXiv affronta i limiti della valutazione dell'Intelligenza Artificiale Spiegabile (XAI), utilizzando come caso di studio il sistema di riconoscimento delle immagini DetoxAI. L'articolo, accettato per la pubblicazione negli atti del Workshop EASi 2026 presso IJCAI-ECAI 2026 a Brema, esplora la valutazione basata sull'essere umano dei metodi di spiegazione per la classificazione delle immagini e discute l'adattamento delle spiegazioni controfattuali a flussi di dati in evoluzione con deriva concettuale. Affronta anche la sfida di tracciare la co-evoluzione di dati, modelli e spiegazioni. Il lavoro fa parte del più ampio campo della XAI ed è pubblicato in Springer CCIS vol 3107 (2016).
Fatti principali
- L'articolo discute i limiti della valutazione della XAI.
- Utilizza il sistema di riconoscimento delle immagini DetoxAI per il rilevamento dei bias e l'unlearning dei concetti.
- Presenta una valutazione basata sull'essere umano dei metodi di spiegazione per la classificazione delle immagini.
- Esplora l'adattamento delle spiegazioni a flussi di dati in evoluzione con deriva concettuale.
- Discute le esperienze con l'adattamento dei controfattuali.
- Si riferisce alle sfide del tracciamento della co-evoluzione di dati, modelli e spiegazioni.
- Accettato per la pubblicazione nel Workshop EASi 2026 presso IJCAI-ECAI 2026 a Brema.
- Pubblicato in Springer CCIS vol 3107 (2016).
Entità
Istituzioni
- arXiv
- DetoxAI
- IJCAI-ECAI
- Springer
Luoghi
- Bremen