BarrierSteer: Sicurezza dei LLM tramite Funzioni Barriera Apprese

BarrierSteer introduce un framework innovativo volto a migliorare la sicurezza dei grandi modelli linguistici (LLM) durante l'inferenza, integrando vincoli di sicurezza non lineari appresi nello spazio di rappresentazione latente del modello. Utilizzando classificatori di sicurezza basati sullo stato nascosto come Funzioni Barriera di Controllo (CBF), consente di guidare le traiettorie latenti non sicure attraverso vincoli durante il processo di generazione. Il framework combina efficientemente vari vincoli di sicurezza senza alterare i parametri sottostanti del LLM, mantenendone così l'utilità. I risultati teorici ne convalidano l'efficacia, affrontando la sfida critica degli attacchi avversari e della generazione di contenuti non sicuri in applicazioni LLM ad alto rischio.