ConsistencyGate previene la contaminazione della memoria negli agenti LLM
Uno studio recente pubblicato su arXiv introduce ConsistencyGate, un meccanismo progettato per il controllo di ammissione in fase di scrittura negli agenti LLM per mitigare la contaminazione della memoria. In interazioni multiple, gli agenti LLM raccolgono informazioni in memoria esterna, dove un singolo fatto erroneo può portare a un ragionamento errato continuo, noto come contaminazione della memoria. Mentre le attuali soluzioni di gestione della memoria si concentrano sul recupero e sulla capacità, trascurano l'accuratezza dei processi in fase di scrittura. ConsistencyGate valuta l'LLM K volte per ottenere un punteggio di supporto soft prima di finalizzare un fatto candidato, consentendo l'ammissione solo se il punteggio medio supera una soglia impostata. Questo approccio è indipendente dal modello, non richiede fine-tuning e include una variante basata su log-probabilità per applicazioni sensibili alla latenza. Lo studio valuta il suo impatto su dati reali.
Fatti principali
- arXiv:2607.22962v1 introduce ConsistencyGate.
- ConsistencyGate è un gate di ammissione in fase di scrittura per agenti LLM.
- La contaminazione della memoria si verifica quando un fatto allucinato persiste come premessa falsa.
- La gestione della memoria esistente non affronta la correttezza in fase di scrittura.
- ConsistencyGate interroga l'LLM K volte per un punteggio di supporto soft.
- Un fatto candidato viene ammesso solo quando il punteggio di supporto medio supera una soglia.
- Il meccanismo è indipendente dal modello e non richiede fine-tuning.
- Esiste una variante basata su log-probabilità per implementazioni sensibili alla latenza.
Entità
Istituzioni
- arXiv