SHAP Verificato: Limiti Dimostrabili per Valori Shapley Esatti di Reti Neurali
Un algoritmo innovativo utilizza la verifica delle reti neurali per determinare limiti inferiori e superiori precisi sui valori SHAP, recuperando efficacemente i valori SHAP esatti. Questo metodo è in grado di scalare a spazi di ricerca significativamente più grandi rispetto alle tecniche esatte leader, segnando un primo avanzamento verso calcoli SHAP precisi. Inoltre, funge da elemento fondamentale per valutare i metodi di approssimazione statistica in ambienti di ricerca più ampi.
Fatti principali
- 1. Le spiegazioni additive di Shapley (SHAP) sono ampiamente riconosciute come computazionalmente intrattabili per le reti neurali.
- 2. SHAP induce uno spazio di ricerca esponenziale sulle caratteristiche di input.
- 3. L'algoritmo sfrutta i recenti progressi nella verifica delle reti neurali.
- 4. Calcola limiti inferiori e superiori esatti arbitrariamente stretti sui valori SHAP.
- 5. Recupera infine i valori SHAP esatti.
- 6. L'approccio scala a spazi di ricerca di ordini di grandezza maggiori rispetto ai metodi esatti all'avanguardia.
- 7. Ciò fornisce un importante primo passo verso il calcolo esatto di SHAP.
- 8. Stabilisce una pietra miliare di principio per valutare i metodi di approssimazione statistica su spazi di ricerca più ampi.
Entità
Istituzioni
- arXiv