Tripwire: Difesa senza addestramento contro i jailbreak dei LLM tramite neuroni di sicurezza

Un nuovo articolo di ricerca su arXiv (2608.14392) introduce Tripwire, un meccanismo di difesa senza addestramento per i modelli linguistici di grandi dimensioni (LLM) contro gli attacchi di jailbreak. Il metodo identifica neuroni specifici per la sicurezza attraverso test di ipotesi per neurone, con l'obiettivo di attivare un rifiuto allineato senza compromettere l'utilità del modello. A differenza degli interventi esistenti a livello di neurone e di percorso che spesso degradano le prestazioni o rimangono sempre attivi, Tripwire si attiva selettivamente solo quando viene rilevato un attacco. L'articolo affronta i limiti degli approcci precedenti, come la soppressione dei neuroni tossici (che richiede grandi interventi) e l'uso di classificatori esterni (che possono compromettere l'utilità). Tripwire è presentato come un approccio statisticamente certificato, che offre una via a grana fine per difendere i LLM preservando l'elaborazione delle richieste benigne.