Scheduler Entropico Migliora l'Efficienza di Campionamento dei Modelli Flow
I ricercatori hanno sviluppato uno scheduler entropico a tempo di inferenza senza training per modelli generativi basati su flow, migliorando la qualità del campione con un budget di inferenza ridotto. Il metodo utilizza un obiettivo di tasso di entropia condizionale-marginale per discretizzare il percorso di probabilità, separando la geometria del ponte dall'evoluzione del flusso marginale. Per i ponti browniani gaussiani, il tasso di entropia è in forma chiusa e a forma di U, motivando griglie non uniformi che concentrano le valutazioni vicino ai confini. Su modelli 2D di bridge/flow addestrati, lo scheduler ha migliorato l'MMD ODE-Heun a 10 passi del 18,1% e SDE-Heun del 22,7% rispetto alla discretizzazione lineare. Su EDM/CIFAR-10, lo schedule temporale entropico ha mostrato anche miglioramenti. Il lavoro è pubblicato su arXiv (2605.16126) e affronta una sfida chiave nel flow matching e nei ponti di Schrödinger, dove le griglie di inferenza sono tipicamente euristiche.
Fatti principali
- Scheduler entropico a tempo di inferenza senza training per modelli generativi basati su flow
- Utilizza un obiettivo di tasso di entropia condizionale-marginale per una discretizzazione consapevole del bridge
- I ponti browniani gaussiani producono un tasso di entropia a forma di U in forma chiusa
- Migliora l'MMD ODE-Heun a 10 passi del 18,1% rispetto al lineare su modelli 2D
- Miglioramento SDE-Heun del 22,7% nello stesso sweep a basso NFE
- Testato su EDM/CIFAR-10 con risultati positivi
- Pubblicato su arXiv con ID 2605.16126
- Affronta le griglie di inferenza euristiche nel flow matching e nei ponti di Schrödinger
Entità
Istituzioni
- arXiv