Nuovo framework estende gli interventi sui LLM a caratteristiche non lineari
Un nuovo framework per intervenire sui modelli linguistici di grandi dimensioni (LLM) va oltre l'ipotesi della rappresentazione lineare, consentendo la manipolazione di caratteristiche codificate lungo varietà non lineari. Il metodo, introdotto in un articolo su arXiv, include una procedura di apprendimento che permette di intervenire su caratteristiche implicite senza firme di output dirette. Validato sul steering per bypassare i rifiuti, l'approccio guida i modelli in modo più preciso rispetto ai baselines lineari, prendendo di mira una caratteristica non lineare che governa il rifiuto.
Fatti principali
- L'intervento è un metodo ampiamente utilizzato per comprendere le rappresentazioni interne degli LLM.
- I metodi di intervento esistenti sono limitati a interventi lineari basati sull'Ipotesi della Rappresentazione Lineare.
- Il nuovo framework estende l'intervento a caratteristiche rappresentate in modo non lineare.
- Il framework include una procedura di apprendimento per intervenire su caratteristiche implicite prive di firme di output dirette.
- La validazione è stata eseguita sul steering per bypassare i rifiuti.
- Il metodo guida i modelli in modo più preciso rispetto ai baselines lineari.
- L'intervento prende di mira una caratteristica non lineare che governa il rifiuto.
- L'articolo è disponibile su arXiv.
Entità
Istituzioni
- arXiv