Entità Semantiche Persistenti nei Sistemi LLM Potenziati con Strumenti

Un nuovo articolo su arXiv (2608.07952) introduce il concetto di Entità Semantiche Persistenti (PSE) negli agenti LLM potenziati con strumenti. Le PSE sono stati impliciti che persistono tra sessioni, si attivano tramite eventi e si propagano attraverso i confini degli agenti, spesso invisibili al debugging standard. Lo studio formalizza le PSE attraverso tre meccanismi: binding dei nomi, attivazione tramite eventi e propagazione attraverso i confini. Testando 24 modelli di 11 famiglie (con parametri da 1,5B a 1T), gli autori hanno scoperto che ogni modello è suscettibile, con tassi di contaminazione tra il 20% e il 100% su un pannello di suscettibilità di 20 modelli. Il binding dei nomi emerge come meccanismo necessario e dominante; senza di esso, la contaminazione scende allo 0%. La persistenza dipende dal tipo di contaminazione, non dalla scala del modello o dalla distribuzione. La contaminazione delle preferenze persiste senza decadimento su tutti i modelli testati (100% a t=10), la contaminazione delle istruzioni persiste ovunque venga adottata, l'iniezione di stile persona decade parzialmente (dal 90% al 10%), e l'iniezione fattuale dipende dal modello, con auto-correzione osservata su Llama-3.1-8B e altri modelli. I risultati evidenziano una significativa preoccupazione per la sicurezza e l'affidabilità degli agenti LLM, suggerendo che gli attuali strumenti di debugging potrebbero non rilevare questi stati nascosti persistenti.