Firewall di Memoria che Preserva la Provenienza per Agenti LLM

Uno studio recente pubblicato su arXiv (2607.29167) presenta una soluzione di sicurezza per agenti di grandi modelli linguistici (LLM) dotati di memoria persistente. La ricerca evidenzia una vulnerabilità di sicurezza denominata 'riciclaggio della provenienza della memoria', in cui input esterni non affidabili possono essere alterati durante il processo di consolidamento della memoria per imitare la cronologia dell'utente o l'assistenza al flusso di lavoro, mantenendo così i trigger di azione mentre si elimina l'origine a bassa fiducia. Per affrontare questo problema, gli autori introducono il Firewall di Memoria che Preserva la Provenienza (PPMF), un middleware leggero che garantisce la provenienza mantenuta dalla piattaforma e valida l'uso degli strumenti correlando il rischio dell'azione con l'autorità delle memorie pertinenti. La loro valutazione, utilizzando un metodo basato su schema con politiche di rischio stabilite, rivela che le memorie consolidate vulnerabili possono raggiungere livelli di rischio significativi. Questo documento funge da annuncio di tipo incrociato su arXiv, suggerendo che potrebbe essere stato presentato a una conferenza o pubblicato su una rivista.