MT-JailBench: Benchmark modulare per attacchi di jailbreak multi-turno su LLM
È stato introdotto un nuovo strumento di valutazione, denominato MT-JailBench, per valutare gli attacchi di jailbreak rivolti ai modelli linguistici di grandi dimensioni (LLM) durante interazioni prolungate. Questi attacchi sfruttano il contesto conversazionale dei modelli, producendo output potenzialmente pericolosi. Gli attuali metodi di valutazione spesso mancano di chiarezza, rendendo difficile discernere se i progressi derivino da strategie di attacco migliorate o semplicemente da diverse condizioni di valutazione. MT-JailBench comprende cinque componenti interconnessi: una funzione di valutazione, strategie di attacco, generazione di prompt, perfezionamento dei prompt e controllo del flusso. Questo design mira a consentire confronti coerenti tra le metodologie di attacco, migliorando al contempo la comprensione delle vulnerabilità di jailbreak multi-turno negli LLM.
Fatti principali
- 1. MT-JailBench è un framework di valutazione modulare per attacchi di jailbreak multi-turno su LLM.
- 2. I jailbreak multi-turno sfruttano l'accumulo di contesto conversazionale per indirizzare verso risposte non sicure.
- 3. Le valutazioni esistenti sono black-box con budget, giudici, regole di ripetizione e generazione di strategie incoerenti.
- 4. Il framework implementa ogni attacco come cinque moduli: funzione di valutazione, strategia di attacco, generazione di prompt, perfezionamento dei prompt e controllo del flusso.
- 5. Consente un confronto equo tra metodi di attacco e analisi per componenti.
- 6. La ricerca è pubblicata su arXiv con ID 2605.11002.
- 7. Il framework mira a standardizzare la valutazione degli attacchi di jailbreak multi-turno.
- 8. L'articolo è classificato come annuncio di tipo incrociato.
Entità
Istituzioni
- arXiv