xPress: Un Affinatore Causale per i Drafters a Diffusione nella Decodifica Speculativa

Uno studio recente, identificato come articolo arXiv 2608.02438, presenta xPress, un nuovo approccio volto a migliorare l'efficienza della decodifica speculativa con drafters a diffusione. Questa ricerca affronta un notevole svantaggio riscontrato nei drafters a diffusione a blocchi come dFlash, che generano un intero blocco di token provvisori in una singola passata in avanti. Sebbene questo metodo riduca al minimo il sovraccarico associato alla stesura di più token, la fase finale del processo di denoising discreto a passata singola campiona token che sono condizionatamente indipendenti in base alle distribuzioni logit per ciascuna posizione. Di conseguenza, le bozze consistono in marginali piuttosto che in una distribuzione congiunta, causando sequenze generate che includono token che, sebbene individualmente probabili, sono collettivamente improbabili secondo la distribuzione del modello target, il che può portare a rifiuti precoci e limitare la lunghezza di accettazione. Per affrontare questo problema, xPress viene introdotto come un affinatore causale leggero che ripristina la necessaria causalità nei drafters a diffusione. L'articolo completo è accessibile all'indirizzo https://arxiv.org/abs/2608.02438.