Il framework JAW dirotta i flussi di lavoro agentici tramite l'evoluzione contestuale
I ricercatori hanno sviluppato JAW, il primo framework per rilevare e sfruttare le vulnerabilità nei flussi di lavoro agentici che integrano agenti LLM su piattaforme di automazione come GitHub Actions e n8n. Il framework utilizza l'evoluzione contestuale, evolvendo gli input del flusso di lavoro in base a contesti derivati dall'analisi ibrida del programma per dirottare i flussi di lavoro. Un avversario può manipolare input come i commenti delle issue di GitHub per costringere gli agenti LLM ad azioni indesiderate come l'esfiltrazione di credenziali e l'esecuzione arbitraria di comandi. Questo rischio non era stato studiato accademicamente prima. Il documento è disponibile su arXiv con ID 2605.11229.
Fatti principali
- JAW è il primo framework di rilevamento e sfruttamento per il dirottamento di flussi di lavoro agentici.
- I flussi di lavoro agentici integrano agenti LLM per attività come la revisione del codice e la sincronizzazione dei dati.
- Le piattaforme interessate includono GitHub Actions e n8n.
- Gli avversari possono controllare input come i commenti delle issue di GitHub per manipolare gli agenti LLM.
- I potenziali attacchi includono l'esfiltrazione di credenziali e l'esecuzione arbitraria di comandi.
- L'approccio è chiamato evoluzione contestuale.
- Utilizza l'analisi ibrida del programma per derivare contesti per l'evoluzione degli input.
- Nessun lavoro accademico precedente aveva studiato questo rischio.
Entità
Istituzioni
- arXiv