WiCER: Compilazione Iterativa della Conoscenza per Sistemi Wiki basati su LLM

Un recente studio pubblicato su arXiv (2605.07068) presenta WiCER (Wiki-memory Compile, Evaluate, Refine), un algoritmo iterativo volto a colmare il divario di compilazione nei sistemi Wiki basati su LLM. Questo framework LLM Wiki compila conoscenze specifiche del dominio in un artefatto persistente accessibile tramite inferenza con cache KV, raggiungendo una latenza sub-secondo senza fallimenti di recupero. Tuttavia, metodi di compilazione semplicistici spesso portano a una significativa perdita di fatti essenziali. La ricerca esamina questo problema in 17 domini RepLiQA (6.800 domande), rivelando che l'inferenza con cache KV a contesto completo supera il RAG nella conoscenza curata (4,38 vs. 4,08 su 5, TTFT 7,3 volte più veloce) ma fallisce su larga scala a causa della diluizione dell'attenzione. Al contrario, la compilazione cieca ha prestazioni scadenti (da 2,14 a 2,32 vs. 3,46, con un tasso di fallimento catastrofico del 53-60%). WiCER, ispirato al raffinamento astratto guidato da controesempi (CEGAR), valuta e migliora iterativamente i wiki compilati per mitigare questo divario. Gli autori, affiliati a un'istituzione non divulgata, hanno reso l'articolo accessibile su arXiv.