ThinkRetrieve: Migliorare gli LRM con Tracce di Ragionamento Potenziate dal Recupero
Un nuovo framework chiamato ThinkRetrieve mira a migliorare il scaling a tempo di test per i Large Reasoning Models (LRM) recuperando dinamicamente esempi risolti ad ogni passo di ragionamento. L'approccio affronta il problema dei rendimenti decrescenti dello scaling sequenziale a tempo di test, dove tracce di ragionamento più lunghe possono portare a una maggiore incertezza e a un accumulo di errori. ThinkRetrieve inietta esempi pertinenti da un corpus esterno direttamente nella traccia di pensiero, fornendo indicazioni su come ragionare piuttosto che solo su quali fatti sono rilevanti. Esperimenti su cinque modelli di ragionamento (parametri 1,5B–8B) su benchmark tra cui GSM-8K, MATH-500, AIME 2025 e SciQ dimostrano l'efficacia del framework. L'articolo è disponibile su arXiv con identificativo 2608.10928.
Fatti principali
- ThinkRetrieve è un framework di scaling a tempo di test per Large Reasoning Models (LRM).
- Arricchisce le tracce di ragionamento con esempi risolti recuperati dinamicamente ad ogni passo.
- Il metodo affronta i rendimenti decrescenti dello scaling sequenziale a tempo di test.
- Gli esperimenti sono stati condotti su cinque modelli di ragionamento con parametri da 1,5B a 8B.
- I benchmark utilizzati includono GSM-8K, MATH-500, AIME 2025 e SciQ.
- L'articolo è disponibile su arXiv con identificativo 2608.10928.
- Il framework inietta esempi nella traccia di pensiero per guidare il ragionamento.
- L'approccio mira a ridurre l'accumulo di errori e la deriva dal problema originale.
Entità
Istituzioni
- arXiv