MemFly: Ottimizzazione della Memoria On-the-Fly tramite Information Bottleneck
Un nuovo framework chiamato MemFly, introdotto in un articolo arXiv (2602.07885v2), affronta la sfida della memoria a lungo termine negli agenti basati su grandi modelli linguistici (LLM). Il framework applica i principi dell'information bottleneck per consentire un'evoluzione della memoria on-the-fly, minimizzando l'entropia di compressione e massimizzando l'entropia di rilevanza attraverso un ottimizzatore senza gradienti. MemFly costruisce una struttura di memoria stratificata per uno stoccaggio efficiente e utilizza un meccanismo di recupero ibrido che integra percorsi semantici, simbolici e topologici con un raffinamento iterativo per query complesse multi-hop. Gli esperimenti mostrano che MemFly supera i baselines all'avanguardia in coerenza della memoria e qualità delle risposte. L'articolo è scritto da ricercatori ed è stato aggiornato come sostituzione su arXiv.
Fatti principali
- MemFly è un framework per l'ottimizzazione della memoria on-the-fly negli agenti LLM.
- Si basa sui principi dell'information bottleneck.
- Minimizza l'entropia di compressione e massimizza l'entropia di rilevanza.
- Utilizza un ottimizzatore senza gradienti.
- Costruisce una struttura di memoria stratificata.
- Sviluppa un meccanismo di recupero ibrido che combina percorsi semantici, simbolici e topologici.
- Il meccanismo di recupero include un raffinamento iterativo per query multi-hop.
- Gli esperimenti mostrano che MemFly supera i baselines all'avanguardia in coerenza della memoria e qualità delle risposte.
- L'articolo è disponibile su arXiv con ID 2602.07885v2.
Entità
Istituzioni
- arXiv