CUBE: Un Nuovo Framework per l'IA Spiegabile che Utilizza il Disegno Sperimentale Fattoriale

Un nuovo framework chiamato CUBE (Contrastive Understanding by Balanced Experiments) è stato sviluppato da ricercatori per fornire spiegazioni post-hoc per modelli a scatola nera utilizzando il disegno sperimentale fattoriale. Questo framework valuta i predittori addestrati attraverso combinazioni bilanciate di probe bassi e alti, riassumendo i risultati come effetti fattoriali. Gli effetti principali e le interazioni a coppie sono visti come contrasti controllati all'interno di una regione di spiegazione designata. I probe fattoriali completi individuano con precisione questi effetti nello spazio di progettazione scelto, mentre i probe frazionari aiutano a ridurre i costi di interrogazione e rivelano limitazioni di aliasing e risoluzione. Esperimenti condotti su compiti tabulari sia sintetici che reali mostrano che CUBE cattura efficacemente la struttura principale degli effetti appresi e chiarisce i limiti delle spiegazioni efficienti in termini di interrogazioni. Questa ricerca è disponibile su arXiv nei campi dell'informatica e dell'apprendimento automatico.