L'architettura Sentinel-Strategist riduce il compromesso sicurezza-utilità nei sistemi RAG

Una nuova architettura chiamata Sentinel-Strategist affronta il compromesso tra sicurezza e utilità nei sistemi di generazione aumentata da recupero (RAG). Proposta in arXiv:2604.20932, la struttura utilizza un Sentinel per rilevare comportamenti anomali di recupero e uno Strategist per attivare selettivamente le difese in base al contesto della query. Gli esperimenti mostrano che uno stack di difesa sempre attivo riduce il richiamo contestuale di oltre il 40%, ma Sentinel-Strategist mitiga questo costo. L'architettura viene valutata su tre dataset di riferimento, mirando ad attacchi multi-vettore come inferenza di appartenenza, avvelenamento dei dati e perdita di contenuto. Questo lavoro è rilevante per domini sensibili come la sanità e il diritto, dove i sistemi RAG si basano su conoscenze private.