OCCAM: Spiegazione Causale a Concetti Aperti per Modelli Visivi

Un nuovo framework chiamato OCCAM è stato sviluppato dai ricercatori per facilitare la spiegazione causale a concetti aperti e l'induzione di ontologie all'interno di modelli visivi a scatola nera. OCCAM identifica concetti visivi senza fare affidamento su categorie predefinite, utilizza la segmentazione guidata dal testo per la localizzazione ed esegue interventi a livello di oggetto eliminando concetti per valutare le variazioni nella confidenza di classe, stimando così l'impatto causale di ciascun concetto. Oltre alle spiegazioni locali, OCCAM compila prove interventistiche da un dataset per creare un'ontologia strutturata che illustra come i classificatori organizzano i concetti visivi su scala globale. L'analisi di questa ontologia rivela relazioni coerenti tra concetti, evidenzia connessioni causali nascoste e identifica bias sistematici nei modelli. I test su Broden e ImageNet-S con vari classificatori indicano che OCCAM migliora la qualità delle spiegazioni. Questo framework affronta efficacemente la sfida di interpretare classificatori di immagini profondi in scenari in cui gli interni del modello non sono accessibili.