Studio Mette in Discussione il Legame tra Correttezza delle Spiegazioni XAI e Comprensione Umana

Una recente indagine pubblicata su arXiv (2603.25251) contesta la convinzione diffusa nell'Explainable AI (XAI) secondo cui una maggiore correttezza funzionale delle spiegazioni equivalga a una migliore comprensione umana. Nel loro studio con 200 partecipanti, i ricercatori hanno variato l'accuratezza delle spiegazioni su quattro livelli (100%, 85%, 70%, 55%) all'interno di un compito sintetico di classificazione di serie temporali. Ai partecipanti non è stato permesso di utilizzare conoscenze di dominio, con la correttezza misurata rispetto a una verità di base nota. I risultati hanno indicato che, sebbene la correttezza influenzi la comprensione, la correlazione è complessa; l'accuratezza nella simulazione in avanti è diminuita in modo non lineare. Questo studio solleva dubbi sull'affidabilità delle metriche di correttezza funzionale come indicatori dell'interpretabilità umana, sottolineando la necessità di studi sugli utenti per valutare l'efficacia delle spiegazioni.