AdaCorrection: Correzione Adattiva della Cache Offset per Efficienti Diffusion Transformer

Il framework AdaCorrection, recentemente introdotto, mira a migliorare le prestazioni dei Diffusion Transformer (DiT) per la generazione di immagini e video di alta qualità. Sebbene i DiT siano riconosciuti per le loro capacità all'avanguardia, affrontano sfide legate all'inferenza costosa associata ai processi di denoising iterativo. Le precedenti tecniche di accelerazione che si basavano su riutilizzo statico della cache o euristiche generali spesso portavano a derive temporali e cache disallineate, compromettendo la qualità. AdaCorrection offre un'innovativa correzione adattiva dell'offset della cache, che preserva la qualità di generazione facilitando al contempo un efficiente riutilizzo della cache tra i livelli del Transformer. Valuta la validità della cache a ogni passo temporale utilizzando segnali spaziotemporali leggeri e integra senza soluzione di continuità attivazioni memorizzate e nuove, senza supervisione aggiuntiva o riaddestramento. Questo metodo offre un'ottima qualità di generazione con un costo computazionale minimo. La ricerca è disponibile su arXiv con identificativo 2602.13357, classificata come 'replace-cross'.