ElasticBack: Backdoor Condizionale Stealthy nelle Competenze degli Agenti LLM tramite Ottimizzazione Accoppiata Trigger-Regola

Uno studio recente presenta ElasticBack, un attacco backdoor condizionale a singola competenza mirato agli agenti LLM. In questa emergente catena di fornitura, le competenze degli agenti—che comprendono istruzioni e risorse attivate su richiesta—possono essere compromesse da una singola competenza contaminata. Gli attuali attacchi alle competenze o si attivano con ogni richiesta o dipendono da pesi ottimizzati o da più competenze, lasciando inesplorata una backdoor condizionale a basso costo. ElasticBack incorpora una regola R nel documento della competenza e un trigger T apparentemente innocuo nella query dell'utente, assicurando che il payload dannoso si attivi solo quando entrambi sono presenti. Questo approccio collega i due elementi attraverso un framework trigger-as-switch, creando R tramite iniezione di regole con ancoraggio semantico, e poi ottimizzando T contro di esso usando una ricerca genetica con vincoli di stealth. L'articolo di ricerca è disponibile su arXiv con identificativo 2608.09577.