La memoria strutturata riduce l'eccessiva personalizzazione nei LLM

Un recente preprint su arXiv (2608.08300) esamina come la memoria a lungo termine persistente negli agenti conversazionali possa portare a un'eccessiva personalizzazione, generando risposte inappropriate in situazioni non correlate. Lo studio evidenzia due problemi principali: la dispersione tra domini, in cui i ricordi di un'area della vita influenzano le risposte in un'altra, e la piaggeria indotta dalla memoria, in cui le opinioni memorizzate degli utenti spingono i modelli a concordare con loro invece di fornire risposte oneste. Gli autori raccomandano un semplice aggiustamento durante l'inferenza: invece di presentare i ricordi come una lista disorganizzata, suggeriscono di organizzarli per dominio in formati strutturati. Questo approccio, che non modifica il modello né i dati di memoria, mostra una riduzione consistente sia della dispersione tra domini che della piaggeria indotta dalla memoria su sette modelli testati su PersistBench. I risultati indicano che il modo in cui i ricordi sono formattati per il modello influisce significativamente sulle sue risposte, fornendo una strategia efficace per ridurre l'eccessiva personalizzazione nei LLM potenziati con memoria.