Embedding Allineati all'Utilità Potenziano il Recupero Denso per RAG
I ricercatori propongono Utility-Aligned Embeddings (UAE), un framework che addestra un bi-encoder a imitare le distribuzioni di utilità derivanti dalla riduzione della perplessità dei LLM, migliorando la precisione del recupero senza necessità di inferenza del LLM al momento del test. Su QASPER, UAE ottiene un miglioramento del 30,59% in Recall@1, del 30,16% in MAP e del 17,3% in Token F1 rispetto a BGE-Base.
Fatti principali
- UAE combina i vantaggi del recupero denso e del ri-ordinamento basato sull'utilità.
- Formalizza il recupero come corrispondenza di distribuzioni con Utility-Modulated InfoNCE.
- Non richiede inferenza del LLM al momento del test.
- Benchmark QASPER: Recall@1 +30,59%, MAP +30,16%, Token F1 +17,3% rispetto a BGE-Base.
- Affronta le limitazioni di precisione nel recupero denso e il rumore nella stima della perplessità.
Entità
Istituzioni
- arXiv