PoisonedEvolution: Attacco di Avvelenamento della Traiettoria sui Sistemi di Abilità Auto-Evolventi

Uno studio recente presenta PoisonedEvolution, un metodo di attacco che prende di mira i sistemi di abilità auto-evolventi (SES) manipolando le traiettorie degli agenti in abilità di lunga durata. Questo metodo sfrutta il modo in cui le abilità passano da istruzioni temporanee a istruzioni permanenti. L'attaccante opera come un'entità black-box visibile alle abilità, in grado di esaminare una specifica abilità e fornire prove limitate, ma senza accesso a risorse private o alla possibilità di modificare il deposito di abilità. L'attacco si basa su tre componenti: Inclusione, Attribuzione dell'Evoluzione e Realizzazione, con l'Attribuzione che è il fattore limitante critico. I ricercatori hanno testato quattro famiglie di effetti di sicurezza utilizzando specifiche canarie inerti. Con il 10% di supporto dell'attaccante, PoisonedEvolution ha integrato con successo i comportamenti target in 546 prove su 600 attraverso sei evolutori LLM, risultando in un tasso di successo del 91,0%. L'articolo è disponibile su arXiv (identificatore 2608.05563).