Atlanti di Caratteristiche di Riferimento per il Controllo dei Modelli Linguistici
Un nuovo approccio per il controllo dei modelli linguistici utilizza un atlante di caratteristiche di riferimento, ovvero una libreria sparsa di caratteristiche addestrata una volta su un pannello di riferimento e successivamente applicata a nuovi modelli tramite un adattatore lineare. Questo metodo offre due prospettive: il canale dell'atlante interpreta il target basandosi sulle caratteristiche del pannello stabilito, fornendo un sistema di coordinate coerente tra diversi modelli; mentre il canale residuo cattura le caratteristiche che l'atlante non riesce a riprodurre, segnalando esplicitamente controlli "al di fuori del pannello di riferimento". I ricercatori hanno sviluppato atlanti leave-one-out su cinque modelli istruiti con 7-9 miliardi di parametri e hanno valutato i target esclusi Mistral e Qwen. Il canale residuo ha permesso un controllo perfetto in runtime di tre obiettivi nascosti LoRA controllati, mentre i controlli corrispondenti sono rimasti inalterati, identificando l'obiettivo piantato come la caratteristica principale. Il documento è accessibile su arXiv.
Fatti principali
- L'atlante di caratteristiche di riferimento è una libreria sparsa di caratteristiche addestrata una volta su un pannello di riferimento.
- I nuovi modelli si collegano adattando solo un decodificatore lineare.
- Il canale dell'atlante fornisce un sistema di coordinate stabile tra i modelli.
- Il canale residuo apprende caratteristiche da ciò che l'atlante non riesce a ricostruire.
- Atlanti leave-one-out addestrati su cinque modelli istruiti con 7-9 miliardi di parametri.
- Target esclusi: Mistral e Qwen.
- Tre obiettivi nascosti LoRA controllati iniettati in entrambi i target.
- Il canale residuo rende il meccanismo piantato perfettamente controllabile in runtime.
Entità
—