Lyzr Cognis: Architettura di Memoria Open-Source per l'IA Conversazionale
Lyzr Cognis rappresenta un framework di memoria coeso progettato per agenti di IA conversazionale, affrontando il problema dell'assenza di memoria persistente negli agenti LLM. Incorpora un sistema di recupero a più livelli che combina la corrispondenza per parole chiave di OpenSearch BM25 con la ricerca per similarità vettoriale Matryoshka, integrate tramite Reciprocal Rank Fusion. Il processo di ingestione sensibile al contesto recupera le memorie esistenti prima dell'estrazione, facilitando un tracciamento intelligente delle versioni. Viene impiegato un potenziamento temporale per migliorare le richieste sensibili al tempo, mentre un reranker cross-encoder BGE-2 perfeziona i risultati. Testato sui benchmark LoCoMo e LongMemEval su otto modelli di generazione di risposte, offre prestazioni all'avanguardia. Questo sistema open-source è attualmente operativo in produzione.
Fatti principali
- Lyzr Cognis è un'architettura di memoria unificata per agenti di IA conversazionale.
- Affronta la mancanza di memoria persistente negli agenti LLM.
- Utilizza una pipeline di recupero a più stadi con OpenSearch BM25 e ricerca per similarità vettoriale Matryoshka.
- Fusione tramite Reciprocal Rank Fusion.
- Pipeline di ingestione sensibile al contesto che recupera le memorie esistenti prima dell'estrazione.
- Consente il tracciamento intelligente delle versioni preservando l'intera cronologia della memoria.
- Il potenziamento temporale migliora le query sensibili al tempo.
- Il reranker cross-encoder BGE-2 perfeziona la qualità finale dei risultati.
- Valutato sui benchmark LoCoMo e LongMemEval su otto modelli di generazione di risposte.
- Raggiunge prestazioni all'avanguardia su entrambi i benchmark.
- Il sistema è open-source e distribuito in produzione.
Entità
Istituzioni
- Lyzr
- OpenSearch
- Matryoshka
- BGE-2
- LoCoMo
- LongMemEval