Nuovo Framework Armonizza la Rimozione Multi-Obiettivo per i Modelli Linguistici di Grande Dimensione
Un nuovo framework per la rimozione di conoscenze nei Modelli Linguistici di Grande Dimensione (LLM) affronta simultaneamente molteplici obiettivi critici, superando i limiti dei metodi esistenti. L'approccio armonizza l'eliminazione di conoscenze indesiderate con la preservazione dell'utilità generale, prevenendo al contempo il rifiuto eccessivo di concetti correlati e garantendo robustezza contro attacchi di probing avversari. Le tecniche di rimozione esistenti si concentrano tipicamente solo sull'efficacia e sulla preservazione dell'utilità, spesso trascurando robustezza e comportamenti ai confini. Il metodo proposto utilizza una co-progettazione di dati e ottimizzazione per raggiungere questo equilibrio multi-obiettivo. Standardizza i corpora di addestramento in una rappresentazione dati unificata per minimizzare i gap di dominio. Questa ricerca, documentata in arXiv:2604.15482v1, è cruciale per rimuovere in sicurezza informazioni pericolose o sensibili alla privacy dagli LLM. Il lavoro evidenzia che estendere ingenuamente i metodi attuali a singolo obiettivo può portare a interferenze tra diverse attività di rimozione.
Fatti principali
- Il documento propone un nuovo framework multi-obiettivo per la rimozione di conoscenze nei Modelli Linguistici di Grande Dimensione (LLM).
- Il framework mira a rimuovere conoscenze indesiderate o che violano la privacy preservando al contempo l'utilità generale del modello.
- Affronta specificamente la sfida di evitare il rifiuto eccessivo di concetti vicini ai dati target della rimozione.
- Un obiettivo chiave è garantire robustezza contro attacchi di probing avversari dopo la rimozione.
- I metodi di rimozione esistenti sono criticati per concentrarsi principalmente su efficacia e utilità, trascurando robustezza e comportamento ai confini.
- Il metodo utilizza una co-progettazione di dati e ottimizzazione per armonizzare questi molteplici obiettivi.
- I corpora di addestramento sono standardizzati in una rappresentazione dati unificata per ridurre i gap di dominio.
- La ricerca è documentata nel preprint arXiv:2604.15482v1, annunciato come cross submission.
Entità
—