Il Framework LeakDojo Espone i Rischi di Perdita nei Sistemi RAG

Uno studio recente ha presentato LeakDojo, un framework personalizzabile progettato per valutare sistematicamente le vulnerabilità di perdita nei sistemi Retrieval-Augmented Generation (RAG). RAG consente ai grandi modelli linguistici (LLM) di attingere a database esterni, che sono suscettibili ad attacchi di perdita. I ricercatori hanno valutato sei metodi di attacco esistenti su quattordici LLM, quattro dataset e varie configurazioni RAG. Risultati significativi rivelano che la generazione di query e le istruzioni avversarie influenzano indipendentemente la perdita, con la perdita complessiva stimata come loro prodotto; una maggiore capacità di seguire le istruzioni è collegata a un aumento del rischio di perdita; e i miglioramenti nella fedeltà RAG possono paradossalmente aumentare i rischi di perdita. La ricerca offre indicazioni pratiche per comprendere e ridurre la perdita RAG.