DECAF: Scomposizione delle Risposte alle Perturbazioni in Evidenza, Contraddizione e Fragilità

Un recente articolo su arXiv (2608.12935) presenta DECAF (Decomposizione di Evidenza, Contraddizione e Fragilità), un nuovo approccio per interpretare le decisioni dei modelli scomponendo le risposte alle perturbazioni in tre elementi distinti: evidenza (E), contraddizione (C) e fragilità (F). Questo metodo supera il limite per cui l'entità delle risposte da sola non riesce a trasmettere il significato della reazione di un modello. DECAF analizza come le differenze tra input fattuali e controfattuali evolvono man mano che gli input accoppiati vengono rivelati gradualmente, utilizzando il contrasto finale per l'interpretazione della traiettoria. Mantiene esattamente l'entità ordinaria, rispettando Abs = E + C + F, ed è distintivo sotto assiomi relativi agli endpoint. L'articolo dimostra l'efficacia di DECAF in ambienti controllati di visione e tabulari, rivelando che le componenti si allineano con comportamenti misurati indipendentemente. Inoltre, viene condotto un audit di ImageNet-9 su 72 modelli, confrontando le componenti tra vari modelli, rendendo questo lavoro pertinente all'IA spiegabile e all'interpretabilità dei modelli, fornendo una comprensione più profonda delle spiegazioni basate su perturbazioni.