Nuovo articolo di ricerca analizza i limiti teorico-informativi dei metodi di spiegazione dell'IA basati sul mascheramento

Allora, c'è questo nuovo articolo su arXiv intitolato 'The Query Channel: Information-Theoretic Limits of Masking-Based Explanations', che potete trovare con il codice arXiv:2604.16689v1. Esamina come i metodi di spiegazione post-hoc come KernelSHAP e LIME agiscano come comunicazione attraverso un canale di interrogazione. Ogni valutazione mascherata è come utilizzare quel canale. Lo studio collega la complessità di queste spiegazioni all'entropia della classe di ipotesi, mentre la velocità con cui le informazioni vengono condivise dipende dalla capacità del canale per interrogazione. Gli autori dimostrano che se si cerca di spiegare troppo in fretta, è probabile commettere errori. Hanno anche scoperto che un decodificatore di massima verosimiglianza sparso può comunque funzionare bene se si rimane al di sotto di quella capacità. Inoltre, hanno sviluppato un metodo Monte Carlo per stimare l'informazione mutua, che aiuta a determinare l'importanza delle caratteristiche locali interrogando modelli black-box con cambiamenti casuali.