Il paper GraphWake descrive una cascata di polarizzazione basata sulla memoria nelle comunità di agenti LLM

GraphWake, descritto nel preprint arXiv 2608.17665, rappresenta un attacco in tre fasi che sfrutta le capacità di memoria degli agenti basati su LLM per indurre polarizzazione di gruppo. Gli autori sostengono che i precedenti metodi di manipolazione, come la modifica dei prompt o la creazione di camere d'eco, sono difficili da implementare efficacemente. Al contrario, GraphWake utilizza la memoria degli agenti come mezzo di persistenza e il discorso pubblico come mezzo di diffusione. Inizialmente, gli attaccanti presentano a un numero limitato di agenti target argomenti che rafforzano le loro opinioni esistenti, che vengono poi memorizzati nei sistemi di memoria degli agenti. Successivamente, una discussione neutrale spinge i target a ricordare ed esprimere ciò che hanno assorbito. La fase finale comporta una propagazione iterativa. Questa minaccia colpisce principalmente le piattaforme social gestite da agenti, dove questi agenti condividono opinioni in modo indipendente e formano comunità.