Potatura Adattiva al Compito: Nuovo Metodo per i Vision Transformer

Un recente articolo pubblicato su arXiv (2608.10989) presenta la Potatura Adattiva al Compito (TAP), un approccio innovativo per la potatura dei token nei Vision Transformer. I risultati indicano che le strategie di potatura progettate per un compito non si trasferiscono efficacemente a varie applicazioni come la classificazione delle immagini, la segmentazione semantica e il rilevamento degli oggetti. L'uso di sonde controllate, che mantengono il checkpoint senza potatura applicando criteri di riduzione senza parametri strato per strato senza riaddestramento, evidenzia tre differenze significative: la segmentazione e il rilevamento utilizzano criteri di potatura del rango distinti, la classificazione è notevolmente influenzata dalla potatura basata sull'attenzione nei primi strati, e i compiti densi favoriscono endpoint di recupero contrastanti. TAP risolve questi problemi implementando un registro di compito per ogni compito, attivando solo quello rilevante mentre ne evolve lo stato, migliorando i token di registro esistenti per essere specifici del compito. Questo annuncio è di tipo cross e può essere accessibile tramite l'URL fornito.