Trasformatore di Guida a Valori Stabili per l'Allineamento degli LLM

Un nuovo articolo su arXiv propone il Trasformatore di Guida a Valori Stabili (SVGT) per affrontare l'instabilità nell'allineamento dei grandi modelli linguistici con i valori umani. Gli autori identificano che i valori negli LLM sono fragili e a bassa dimensionalità all'interno del flusso residuo dinamico, ostacolando un'espressione coerente. SVGT introduce un modulo di valori indipendente con due progetti: modellazione dei valori indipendente, che mantiene rappresentazioni normative in uno spazio dedicato isolato dal backbone, e guida comportamentale esplicita, che trasduce segnali stabili in Bridge Token latenti apprendibili. Questi token agiscono come ancore di valore dinamiche per guidare le traiettorie generative, garantendo un'aderenza robusta in contesti diversi. L'articolo è disponibile su arXiv:2605.11712.