REDE: Un framework per denoising delle tracce di ragionamento per rilevare allucinazioni nei grandi modelli di ragionamento

Un nuovo framework chiamato REDE è stato introdotto in uno studio su arXiv, volto a migliorare l'identificazione delle allucinazioni nei grandi modelli di ragionamento (LRM). Sebbene gli LRM generino percorsi di ragionamento estesi, questi spesso includono elementi ridondanti che ostacolano il rilevamento efficace delle inesattezze. I metodi tradizionali, come le metriche di confidenza e le tecniche di embedding di base, faticano a distinguere i contenuti utili dai dati irrilevanti. REDE utilizza l'attenzione sulla risposta finale per migliorare le rappresentazioni in ogni fase del ragionamento, facilitando l'identificazione del rumore. Lo studio evidenzia anche due tipi comuni di rumore di ragionamento che influenzano il rilevamento e raccomanda l'uso di meccanismi di attenzione per una maggiore accuratezza nelle valutazioni di veridicità.