Modelli T2I Zero-Shot come Fonti di Concetti Sintetici per XAI
Un nuovo preprint su arXiv (2605.19855) propone l'uso di modelli generativi Text-to-Image (T2I) zero-shot per creare dataset di concetti sintetici per l'Explainable AI (XAI) basata su concetti. L'XAI basata su concetti interpreta i modelli di deep learning tramite caratteristiche visive comprensibili dall'uomo come texture o parti di oggetti, ma tradizionalmente richiede grandi set di immagini etichettate per concetto, limitando la scalabilità. Lo studio genera concetti da prompt predefiniti e valuta la loro fedeltà ai concetti reali attraverso quattro analisi: similarità della rappresentazione del concetto, intra-similarità tra sottoinsiemi di dimensione crescente, e due analisi aggiuntive non completamente descritte nell'abstract. Il lavoro mira a colmare il divario tra dati immagine a basso livello e semantica di alto livello senza etichettatura manuale.
Fatti principali
- arXiv:2605.19855v1
- Tipo di annuncio: cross
- L'XAI basata su concetti utilizza caratteristiche visive come texture o parti di oggetti
- I metodi tradizionali richiedono grandi set di immagini etichettate per concetto
- I modelli T2I zero-shot generano dataset di concetti sintetici
- I concetti vengono generati tramite prompt predefiniti
- Quattro analisi complementari valutano la fedeltà ai concetti reali
- Prima analisi: similarità della rappresentazione del concetto tra immagini sintetiche e reali
- Seconda analisi: intra-similarità confrontando coppie di sottoinsiemi dello stesso concetto con dimensione crescente
Entità
—