DenialRAG: Nuovo attacco di avvelenamento a documento singolo sui sistemi RAG

Un nuovo attacco di avvelenamento a documento singolo chiamato DenialRAG è stato sviluppato dai ricercatori, specificamente mirato ai sistemi di generazione aumentata da recupero (RAG). A differenza dei metodi precedenti che si astengono dal menzionare direttamente la risposta corretta, DenialRAG incorpora la risposta corretta in un documento contaminato, la confuta esplicitamente e offre una spiegazione controllata dall'attaccante che supporta una risposta errata. Includendo sia la risposta corretta che quella contaminata nello stesso passaggio recuperato, l'attacco crea un conflitto diretto nel contesto del generatore. Questo metodo è stato testato contro quattro attacchi di avvelenamento a documento singolo esistenti su tre dataset di question answering open-domain e otto modelli linguistici di grandi dimensioni (LLM) target. I risultati sono documentati su arXiv con l'identificatore 2608.02678, sottolineando la necessità di difese più forti contro l'avvelenamento del corpus nella sicurezza RAG.