MemAgent: Agente di Memoria Basato su RL per LLM a Contesto Lungo
MemAgent, un innovativo flusso di lavoro per agenti, è stato presentato dai ricercatori, trasformando l'elaborazione dei modelli linguistici di grandi dimensioni (LLM) a contesto lungo attraverso la lettura del testo per segmenti e una strategia di sovrascrittura della memoria. Questo sistema migliora l'algoritmo DAPO, facilitando l'addestramento tramite generazione di conversazioni multiple a contesto indipendente. MemAgent mostra prestazioni eccezionali in contesti lunghi, estrapolando efficacemente da un contesto di 8K addestrato su testo di 32K per affrontare un compito di domande e risposte su 3,5M con una perdita di prestazioni inferiore al 5%, e raggiungendo oltre il 95% nel test RULER a 512K. Questa innovazione affronta direttamente i compiti su testi lunghi in modo end-to-end, gestendo le complessità della gestione di documenti infinitamente lunghi mantenendo una complessità lineare e prevenendo il degrado delle prestazioni durante l'estrapolazione.
Fatti principali
- MemAgent legge il testo in segmenti e aggiorna la memoria utilizzando una strategia di sovrascrittura.
- L'algoritmo DAPO viene esteso per l'addestramento tramite generazione di conversazioni multiple a contesto indipendente.
- MemAgent estrapola da un contesto di 8K addestrato su testo di 32K a un compito QA su 3,5M con perdita di prestazioni < 5%.
- Raggiunge oltre il 95% nel test RULER a 512K.
- Ottimizza direttamente per compiti su testi lunghi in modo end-to-end.
- Affronta la gestione di documenti infinitamente lunghi con complessità lineare.
- Nessun degrado delle prestazioni durante l'estrapolazione.
- Pubblicato su arXiv sotto Computer Science > Computation and Language.
Entità
Istituzioni
- arXiv