Materializzazione Semantica: Memoria Cache KV in Agenti a Lungo Orizzonte
Un recente articolo su arXiv (2607.23693) indaga se le voci della cache KV mantengano ancora valore dopo la rimozione delle osservazioni iniziali. Gli autori scoprono che escludendo una precedente osservazione dalle storie degli agenti, le righe memorizzate degli eventi successivi forniscono una visione distinta del calcolo nonostante l'assenza di input, un concetto che chiamano 'materializzazione semantica'. Questo fenomeno può essere innescato intenzionalmente: un evento ben costruito che non include una risposta aumenta il recupero allineato al donatore dal 6% al 51% su Qwen3-8B senza menzionare il valore target. Al contrario, la raccolta passiva di menzioni naturali da dialoghi estesi si rivela meno efficace. Questo studio mette in discussione la validità delle strategie di espulsione e di memoria episodica negli agenti a lungo orizzonte.
Fatti principali
- L'articolo arXiv 2607.23693 testa l'assunzione della memoria cache KV
- Omettendo una precedente osservazione dalle storie servite agli agenti
- Le righe cache successive agiscono come una visione indipendente del calcolo
- Fenomeno chiamato 'materializzazione semantica'
- Un evento deliberato senza risposta aumenta il recupero dal 6% al 51% su Qwen3-8B
- La raccolta passiva da dialoghi a lungo termine è meno efficace
- Sfida gli schemi di espulsione e memoria episodica
Entità
Istituzioni
- arXiv