ArcVQ-VAE introduce un prior angolare sferico per rappresentazioni discrete migliori

Una recente pubblicazione su arXiv presenta ArcVQ-VAE, un framework avanzato di quantizzazione vettoriale che migliora il tradizionale VQ-VAE incorporando un prior angolare sferico (SAMP) per il suo codebook. Il SAMP include una regolarizzazione della norma con vincolo di sfera (Ball-Bounded Norm Regularization), che mantiene i vettori del codebook all'interno di una sfera euclidea variabile nel tempo, insieme a una perdita additiva di arcocoseno (ArcCosine Additive Margin Loss), che migliora la separabilità angolare dei vettori latenti. Questo metodo mira a superare i limiti di capacità dei modelli VQ-VAE standard nel catturare rappresentazioni complesse e variegate per la modellazione delle immagini. La ricerca è documentata con ID arXiv 2605.13517.