Allineamento Gerarchico Adattivo dei Prior per i Transformers Diffusivi

Una nuova tecnica chiamata AHPA è stata introdotta dai ricercatori per l'allineamento gerarchico adattivo dei prior durante l'addestramento dei transformers diffusivi. Le attuali tecniche di allineamento si basano su obiettivi di supervisione statici o su una granularità uniforme in tutte le fasi di denoising, il che non è ideale poiché la granularità effettiva della supervisione delle rappresentazioni varia con il rapporto segnale-rumore. In ambienti ad alto rumore, i modelli traggono beneficio da una guida semantica e a livello di layout più ampia, mentre in condizioni di basso rumore richiedono un raffinamento spaziale dettagliato. AHPA risolve questa discrepanza consentendo regolazioni gerarchiche e dinamiche dell'allineamento. Questa ricerca è disponibile su arXiv.