Trasformatori di Attributi Condizionali per il Controllo a Livello di Sequenza

Il preprint arXiv 2605.14004 introduce i Trasformatori di Attributi Condizionali, un metodo che estende i modelli generativi autoregressivi per stimare attributi a livello di sequenza senza modificare l'input o richiedere campionamenti costosi. L'approccio prevede congiuntamente il token successivo e il valore dell'attributo condizionato a ciascuna scelta di token, consentendo l'assegnazione del credito per token e l'analisi controfattuale in un unico passaggio in avanti. Ciò affronta le limitazioni della previsione standard del token successivo, che sovradatta i pattern locali e sottodatta la struttura globale. Il metodo permette di identificare quali token in una sequenza sono associati al valore di un attributo e di eseguire analisi controfattuali. Il lavoro è rilevante per applicazioni che necessitano di stima o controllo degli attributi in sequenze generate.