Quantizzazione Iper-Sferica per Rappresentazioni Visive Discrete
Un recente preprint su arXiv (2607.22148) presenta la Quantizzazione Iper-Sferica (HSQ) come soluzione al problema del collasso del codebook nella discretizzazione di dati visivi ad alta dimensionalità. Gli autori individuano la causa del problema in una discrepanza metrica tra gli obiettivi euclidei tipici e la natura anisotropa dello spazio di rappresentazione, che produce distribuzioni angolari inconsistenti e scale di magnitudo ad alta varianza. HSQ utilizza un routing angolare per separare il contenuto semantico dalla magnitudo delle caratteristiche, evitando così assegnazioni di codice eccessivamente influenzate dalla scala. Di conseguenza, l'Autoencoder di Rappresentazione Discreta (dRAE) è in grado di ottenere ricostruzioni di alta qualità mantenendo la coerenza semantica e supportando budget di codebook scalabili.
Fatti principali
- arXiv:2607.22148
- Proposta di Quantizzazione Iper-Sferica (HSQ)
- Affronta il collasso del codebook nella discretizzazione delle rappresentazioni visive
- Discrepanza metrica tra obiettivi euclidei e spazio di rappresentazione anisotropo
- HSQ utilizza il routing angolare per disaccoppiare la semantica dalla magnitudo
- dRAE ottiene ricostruzioni ad alta fedeltà
- Preserva l'integrità semantica
- Supporta budget di codebook scalabili
Entità
Istituzioni
- arXiv