PEEK: Cache della Mappa di Contesto per Agenti LLM a Contesto Lungo
PEEK, un sistema innovativo, offre una cache della mappa di contesto progettata per agenti basati su modelli linguistici di grandi dimensioni (LLM) che interagiscono con contesti esterni estesi e ricorrenti, tra cui raccolte di documenti e repository di codice. Gli approcci attuali tracciano il percorso dell'agente, consentono l'accesso passivo ai dati grezzi o si concentrano su strategie specifiche per il compito, ma nessuno conserva efficacemente la conoscenza riutilizzabile riguardante il contesto ricorrente, come i suoi contenuti, l'organizzazione e gli elementi storicamente preziosi come entità, costanti e schemi. Memorizzando questa conoscenza di orientamento come un elemento piccolo e di dimensione costante all'interno del prompt dell'agente, PEEK garantisce una visione continua del contesto esterno. La mappa è governata da una politica di cache programmabile con tre componenti: un Distillatore per estrarre conoscenza trasferibile, un Cartografo per gli aggiornamenti della mappa e un terzo modulo (dettagli non completamente divulgati). Questo sistema è descritto nell'articolo arXiv 2605.19932, presentato nel 2025.
Fatti principali
- PEEK è un sistema per agenti LLM.
- Memorizza la conoscenza di orientamento come mappa di contesto.
- La mappa di contesto è un artefatto piccolo e di dimensione costante nel prompt dell'agente.
- Gli approcci esistenti preservano la traiettoria, l'accesso passivo o le strategie di compito.
- PEEK si concentra sulla conoscenza di orientamento riutilizzabile per contesti ricorrenti.
- La politica di cache ha tre moduli: Distillatore, Cartografo e un terzo.
- Il Distillatore estrae conoscenza trasferibile dai segnali di inferenza.
- L'articolo è su arXiv con ID 2605.19932.
Entità
Istituzioni
- arXiv