Trace: Difesa basata sul ragionamento consapevole della traiettoria contro attacchi jailbreak multi-turno

È stata lanciata una nuova strategia di difesa chiamata Trace per affrontare gli attacchi jailbreak multi-turno ai grandi modelli linguistici (LLM). Questi attacchi frammentano obiettivi dannosi in una serie di interazioni apparentemente innocue per eludere le misure di sicurezza. Le difese attuali faticano a riconoscere le mutevoli tattiche di manipolazione, rifiutando spesso e volentieri richieste innocue su argomenti sensibili. Trace utilizza un ragionamento strutturato consapevole della traiettoria: prima di formulare ogni risposta, il modello rileva segnali di manipolazione dalla traiettoria della conversazione, valuta interpretazioni sia benigne che dannose dell'intento dell'utente, assegna un punteggio di jailbreak e decide un'azione: Consenti, Attenzione o Rifiuta. I ricercatori hanno compilato 4.000 dialoghi avversari multi-turno da cinque framework di attacco, insieme a 2.400 dialoghi benigni e 600 scambi sensibili ma benigni. Hanno addestrato Llama-3.1-8B-Instruct tramite fine-tuning supervisionato (SFT) e ottimizzazione della politica relativa di gruppo (GRPO) con una ricompensa multi-componente che ottimizza sia la sicurezza che l'utilità. L'articolo è disponibile su arXiv con l'identificatore 2608.15594.