Attacco di avvelenamento della memoria dormiente sugli assistenti LLM

È stata scoperta una nuova vulnerabilità di sicurezza nei modelli linguistici di grandi dimensioni (LLM) che utilizzano memoria persistente, consentendo agli assistenti di conservare dati specifici dell'utente attraverso più sessioni. Questa vulnerabilità, denominata 'avvelenamento della memoria dormiente', coinvolge un attaccante che manipola risorse esterne—come documenti, pagine web o repository—per indurre l'assistente a salvare falsi ricordi sull'utente. A differenza degli attacchi tradizionali di iniezione di prompt, questo metodo può rimanere inattivo e riemergere in conversazioni future. La ricerca ha valutato l'intero processo di attacco, verificando se i ricordi contaminati potessero essere memorizzati, recuperati e successivamente influenzare scambi successivi. Negli assistenti LLM con stato, l'aggiunta di ricordi avvelenati ha raggiunto il 99,8% per GPT-5.5 e il 95% per Kimi-K2.6, sottolineando una minaccia significativa per la sicurezza poiché gli LLM adottano sempre più la memoria persistente per una maggiore personalizzazione.