Documento di Ricerca Critica SHAP e i Metodi Non-Simbolici di XAI per la Mancanza di Rigore

Un documento di ricerca critica la mancanza di rigore nei metodi non-simbolici utilizzati per spiegare modelli complessi di machine learning, un problema particolarmente acuto nelle applicazioni ad alto rischio. Il documento si concentra specificamente sull'adozione diffusa dei valori di Shapley nell'intelligenza artificiale spiegabile, con lo strumento SHAP citato come esempio prominente di questo approccio problematico. Per circa dieci anni, queste tecniche non-simboliche sono state la scelta dominante per la spiegazione dei modelli. Il lavoro esamina le iniziative in corso per impiegare metodi simbolici rigorosi per XAI come alternativa valida, concentrandosi sul compito specifico di assegnare l'importanza relativa delle caratteristiche. Questo cambiamento viene presentato come necessario perché i metodi attuali possono fuorviare i decisori umani. Il documento è ospitato su arXiv, una piattaforma per la condivisione di ricerche scientifiche, nelle categorie informatica e intelligenza artificiale.