Asimmetria nel Rifiuto degli LLM: Rilascio della Risposta Locale, Soppressione Globale

Un recente preprint su arXiv (2608.15772) esamina i meccanismi interni dei modelli linguistici di grandi dimensioni (LLM) quando rifiutano di rispondere a determinati prompt. Utilizzando un quadro di trattenimento controllato per allineare le traiettorie di risposta e di rifiuto, la ricerca scopre una 'simmetria rotta' nella località degli interventi. In particolare, anche quando un modello emette un chiaro rifiuto, i suoi stati nascosti consentono ancora di estrarre linearmente la risposta corretta. L'atto di rivelare questa risposta trattenuta è un compito localizzato, che richiede solo una regolazione su una singola posizione. Al contrario, ripristinare la soppressione richiede interventi più ampi su diverse posizioni, rendendo la formazione di una sequenza di rifiuto coerente significativamente più difficile. Questi risultati implicano che il rifiuto comporta una soppressione piuttosto che una semplice cancellazione di informazioni, sollevando importanti considerazioni per la sicurezza e l'interpretabilità dell'IA. Lo studio, condotto da un team di ricercatori, evidenzia gli sforzi in corso nell'allineamento dell'IA e nel comportamento dei modelli.