Auto-incoerenza nelle spiegazioni GNN e strategia di auto-riduzione del rumore

I ricercatori hanno scoperto che le spiegazioni generate dalle Reti Neurali Grafiche Auto-Interpretabili (SI-GNN) possono presentare auto-incoerenza; quando il modello viene applicato nuovamente al proprio sottografo esplicativo, produce spiegazioni variabili. Questa incoerenza è dovuta principalmente alla perturbazione del contesto indotta dalla ri-spiegazione. Un'ipotesi riguardante l'assegnazione del segnale latente chiarisce perché alcuni archi sono più influenzati da questa perturbazione, mentre la regolarizzazione della concisione gioca un ruolo in questa assegnazione. Gli autori introducono l'Auto-Riduzione del Rumore (SD), un approccio di post-elaborazione senza addestramento e agnostico al modello, che perfeziona le spiegazioni con un singolo passaggio in avanti aggiuntivo. Esperimenti condotti su vari framework SI-GNN e architetture di base ne convalidano l'efficacia.