La Provenienza del Gate Determina l'Affidabilità del Token Skipping Senza Training nei Modelli VLA

Un nuovo studio pubblicato su arXiv (2608.00391) indaga l'affidabilità del token skipping senza training nei modelli vision-language-action (VLA), che mira a migliorare la velocità di inferenza saltando i calcoli per molti token visivi durante ogni passo di controllo. I risultati rivelano un problema importante: quando il gate di skipping si basa sul forward pass rapido del modello, i token saltati diventano invisibili al gate successivo, portando a errori accumulati che possono causare fallimenti nei compiti. I ricercatori hanno sperimentato due strategie—riutilizzo e cancellazione—usando lo stesso segnale di gate sugli stessi episodi. Con un rapporto di skip di 0.9 sul benchmark LIBERO-Object, entrambi i metodi hanno ottenuto prestazioni scarse, con tassi di successo scesi rispettivamente a 0.68 e 0.31, rispetto a una baseline perfetta di 1.00. È importante notare che i rilevatori a livello di azione utilizzati nella ricerca non rilevano questo fallimento. Il punto chiave è che l'efficacia dipende dal fatto che il gate sia generato da un forward pass completo, piuttosto che dall'approccio stesso. Questo articolo è classificato come annuncio incrociato ed è disponibile su arXiv.