ScrapMem: Framework bio-ispirato per la memoria di agenti LLM su dispositivi
ScrapMem è un framework innovativo volto a facilitare la gestione della memoria personalizzata a lungo termine per agenti LLM che operano su dispositivi edge con risorse limitate. Combina vari tipi di dati in 'Pagine di Album' e presenta Optical Forgetting, un meccanismo che riduce gradualmente la risoluzione dei ricordi più vecchi, ottenendo un risparmio di archiviazione fino al 93% minimizzando i dettagli meno importanti. Per garantire la coerenza semantica, utilizza un Grafo di Memoria Episodica (EM-Graph) che organizza gli eventi significativi all'interno di un quadro causale-temporale. Nei test condotti sul multimodale ATM-Bench, ScrapMem ha registrato un punteggio Joint@10 leader del 51,0% e ha migliorato Recall@10 al 70,3% tramite aggregazione strutturata. Questo framework affronta efficacemente gli elevati costi di archiviazione e le complessità dei dati multimodali, facilitando una memoria efficiente su dispositivo per agenti AI.
Fatti principali
- ScrapMem è un framework bio-ispirato per la memoria personalizzata di agenti su dispositivo.
- Integra dati multimodali in 'Pagine di Album'.
- Optical Forgetting riduce la risoluzione dei ricordi più vecchi per abbassare i costi di archiviazione.
- Il Grafo di Memoria Episodica (EM-Graph) organizza gli eventi chiave in modo causale e temporale.
- Ha ottenuto un punteggio Joint@10 del 51,0% su ATM-Bench, stato dell'arte.
- Riduce l'uso della memoria fino al 93% tramite optical forgetting.
- Recall@10 migliorato al 70,3% tramite aggregazione strutturata.
- Si rivolge a dispositivi edge con risorse limitate per agenti LLM.
Entità
Istituzioni
- arXiv