SwiftMem: Sistema di Memoria Agentico Query-Aware per LLM

Un nuovo articolo di ricerca introduce SwiftMem, un sistema di memoria agentico progettato per ridurre la latenza negli agenti basati su modelli linguistici di grandi dimensioni (LLM) consentendo un recupero query-aware. A differenza dei framework esistenti che eseguono ricerche complete sull'intero spazio di embedding della memoria, SwiftMem restringe il recupero a sottoinsiemi rilevanti per la query utilizzando indici specializzati su dimensioni temporali e semantiche. Il sistema include un indice temporale per query di intervallo in tempo logaritmico e un indice semantico DAG-Tag che mappa le query a argomenti rilevanti tramite strutture gerarchiche di tag. Per gestire la crescita della memoria, SwiftMem impiega un meccanismo di co-consolidamento embedding-tag che riorganizza la memoria per prevenire la frammentazione. L'articolo è disponibile su arXiv con identificatore 2601.08160.