Spiegazioni Basate sui Gradient dei LLM si Allineano con l'Attività Cerebrale

Uno studio recente pubblicato su arXiv (2502.14671) esplora la connessione tra le rappresentazioni dei modelli linguistici di grandi dimensioni (LLM) e l'attività cerebrale durante l'elaborazione del linguaggio. I ricercatori hanno cercato di determinare se l'IA spiegabile (XAI) potesse chiarire questa connessione impiegando metodi di attribuzione per valutare l'influenza di ogni parola in input sulle previsioni della parola successiva del LLM. Successivamente, hanno utilizzato queste intuizioni per prevedere i dati fMRI di partecipanti impegnati nell'ascolto di narrazioni. I risultati hanno indicato che i metodi di attribuzione basati sui gradienti si allineano strettamente con l'attività cerebrale, fornendo varianza unica oltre ai fattori acustici e di velocità delle parole, e superando le rappresentazioni interne nelle aree uditive precoci. Applicando la conduttanza, lo studio ha rivelato che i primi strati mostrano una maggiore sensibilità ai tipi di parole e una preferenza per l'allineamento con le regioni uditive, mentre gli strati successivi corrispondono alle aree linguistiche di ordine superiore. Questi risultati implicano che le spiegazioni basate sui gradienti illuminano aspetti dell'elaborazione neurale del linguaggio trascurati dalle rappresentazioni interne, presentando un nuovo approccio per comprendere la connessione cervello-linguaggio.