LazyMem: Memoria a Lungo Termine Efficiente per Agenti LLM tramite Costruzione al Momento della Query
Una nuova tecnica chiamata LazyMem è stata sviluppata dai ricercatori per migliorare la memoria a lungo termine negli agenti basati su modelli linguistici di grandi dimensioni (LLM), posticipando la creazione della memoria fino al momento in cui viene effettuata una query. Questa strategia affronta la sfida di bilanciare l'ampiezza del recupero e il rumore analizzando pool di candidati in finestre parallele sovrapposte con un modello leggero, che memorizza e comprime selettivamente solo le informazioni pertinenti alla query. Il modello viene sottoposto a un addestramento supervisionato seguito da apprendimento per rinforzo, utilizzando un sistema di ricompensa che promuove il riconoscimento dei messaggi rilevanti e la creazione di rappresentazioni compresse. L'obiettivo di questo metodo è migliorare sia l'efficienza che l'accuratezza nell'utilizzo delle interazioni precedenti per gli agenti LLM.
Fatti principali
- 1. LazyMem posticipa la costruzione della memoria al momento della query.
- 2. Elabora i pool di candidati recuperati in finestre parallele sovrapposte.
- 3. Un modello leggero conserva e comprime selettivamente il contenuto pertinente alla query.
- 4. L'addestramento utilizza un fine-tuning supervisionato seguito da apprendimento per rinforzo.
- 5. La ricompensa incoraggia congiuntamente l'identificazione dei messaggi rilevanti e la generazione di rappresentazioni compresse.
- 6. L'approccio affronta la tensione tra ampiezza del recupero e rumore.
- 7. Mira a migliorare l'efficienza e l'accuratezza per gli agenti LLM.
- 8. La ricerca è presentata in arXiv:2607.22690.
Entità
Istituzioni
- arXiv