Tracce di Peso Asimmetriche nell'Allineamento dei Transformer

Un recente studio pubblicato su arXiv (2605.16600) indica che il pre-addestramento con entropia incrociata e l'allineamento delle preferenze lasciano pattern geometrici distinti nei pesi dei transformer. I ricercatori propongono una sonda a frazione di sottospazio relativo per valutare come i cambiamenti nei pesi corrispondano ai sottospazi di attivazione del flusso residuo e al sottospazio di previsione derivato dall'unembedding. In particolare, gli aggiornamenti di allineamento sono concentrati nel percorso di lettura (W_Q, W_K), seguendo le direzioni principali delle attivazioni di input dell'attenzione, mentre rimangono quasi isotropici nel percorso di scrittura (W_O, W_2) in relazione al sottospazio di previsione. Questa asimmetria osservata deriva dall'accumulo di gradiente anisotropico, dove gli aggiornamenti a una matrice W sono composti da prodotti esterni δ_t a_t^T, riflettendo caratteristiche direzionali dal lato con covarianza concentrata. Nei transformer addestrati, l'attivazione di input a_t mostra una covarianza elevata, portando a un allineamento indipendente dall'obiettivo.