I LLM non dovrebbero ancora essere accreditati per la spiegazione delle decisioni

Un recente position paper disponibile su arXiv (2605.01164) sostiene che i grandi modelli linguistici non dovrebbero ancora essere riconosciuti per la loro capacità di spiegare le decisioni. Gli autori mettono in guardia dal fatto che la ricerca in corso interpreta sempre più spesso previsioni accurate del comportamento, giustificazioni plausibili e ragionamenti collegati ai risultati come prova che i LLM chiariscono le ragioni dietro le decisioni umane, il che potrebbe portare a un cambiamento ingiustificato nella definizione del progresso nella modellazione delle decisioni umane. Il documento identifica tre affermazioni distinte con diversi livelli di evidenza: previsione delle decisioni, generazione di motivazioni e spiegazione delle decisioni. Sostiene che, mentre i dati attuali supportano la previsione e la generazione di motivazioni, così come la formazione di alcune ipotesi esplicative, non riescono a distinguere la spiegazione dalla razionalizzazione che supporta le previsioni. Gli autori suggeriscono uno standard ponte per concedere il credito di spiegazione delle decisioni, che richiede affermazioni più forti per identificare i bersagli esplicativi e differenziarli da opzioni più deboli.