PURPOSE: Attacco di Avvelenamento Black-Box sulla Risoluzione dei Conflitti RAG
Uno studio recente presenta PURPOSE, un attacco di avvelenamento black-box mirato ai sistemi Retrieval-Augmented Generation (RAG). Questo attacco riformula abilmente l'iniezione come un aggiornamento che riduce il conflitto, evitando il rilevamento da parte delle tecniche di risoluzione dei conflitti. PURPOSE raccoglie fatti correlati alla query che si allineano con il potenziale riferimento del risolutore e quindi ancora un evento fondamentale in essi per garantire che l'iniezione rimanga coerente mentre guida il generatore verso la risposta desiderata. L'efficacia di questo metodo è stata testata su tre benchmark QA, cinque generatori e tre strategie di risoluzione dei conflitti, ottenendo il più alto tasso di successo per gli attacchi. La ricerca è disponibile su arXiv con l'identificatore 2608.04756.
Fatti principali
- PURPOSE è un attacco di avvelenamento black-box rigoroso per i sistemi RAG.
- Riformula l'iniezione come un aggiornamento che minimizza il conflitto.
- Estrae fatti correlati alla query per approssimare il riferimento del risolutore.
- Fonda un evento pivot in questi fatti per mantenere la coerenza.
- Valutato su tre benchmark QA, cinque generatori e tre metodi di risoluzione dei conflitti.
- Ha raggiunto il più alto tasso di successo dell'attacco nella valutazione.
- L'articolo è disponibile su arXiv con l'identificatore 2608.04756.
- L'attacco prende di mira la risoluzione dei conflitti post-recupero in RAG.
Entità
Istituzioni
- arXiv