L'inquadratura emotiva degrada il ragionamento quantitativo degli LLM fino al 10%
Un nuovo studio da arXiv (2604.07801) indaga come il linguaggio emotivo influenzi le prestazioni dei modelli linguistici di grandi dimensioni (LLM) in compiti di ragionamento quantitativo. I ricercatori hanno sviluppato un framework controllato di traduzione emotiva che riscrive problemi matematici neutri in varianti emotive, preservando tutti i contenuti numerici e le relazioni. Utilizzando questo framework, hanno costruito Temper-5400, un dataset di 5.400 coppie neutro-emotive verificate semanticamente, derivate da GSM8K, MultiArith e ARC-Challenge. Hanno valutato diciotto modelli che vanno da 1 miliardo di parametri fino alla scala di frontiera. Lo studio ha rilevato che l'inquadratura emotiva riduce l'accuratezza di 2-10 punti percentuali anche quando tutti i contenuti numerici sono preservati. Inoltre, neutralizzare le varianti emotive ha recuperato gran parte delle prestazioni perse, indicando che il degrado è direttamente legato all'inquadratura emotiva piuttosto che a cambiamenti nel contenuto. Questa ricerca evidenzia una potenziale vulnerabilità degli LLM quando applicati a query del mondo reale che spesso portano un tono emotivo, come frustrazione, urgenza o entusiasmo. I risultati hanno implicazioni per la distribuzione dell'IA in campi come l'istruzione, il servizio clienti e il supporto decisionale, dove il contesto emotivo è comune. Lo studio è stato annunciato come un aggiornamento replace-cross su arXiv.
Fatti principali
- Studio su arXiv:2604.07801
- L'inquadratura emotiva riduce l'accuratezza degli LLM di 2-10 punti percentuali
- Dataset Temper-5400: 5.400 coppie neutro-emotive verificate semanticamente
- Valutato su 18 modelli (da 1B a scala di frontiera)
- Neutralizzare le varianti emotive recupera gran parte delle prestazioni perse
- Utilizza i dataset GSM8K, MultiArith e ARC-Challenge
- Il framework controllato di traduzione emotiva preserva tutte le quantità
- Le query del mondo reale spesso includono un tono emotivo
Entità
Istituzioni
- arXiv