SSTQ: Quantizzazione Vettoriale che Preserva la Privacy tramite TurboQuant Stocastico Sottocampionato
Un nuovo approccio per l'ottimizzazione distribuita che preserva la privacy, noto come Subsampled Stochastic TurboQuant (SSTQ), è stato introdotto in un articolo disponibile su arXiv (2608.05127). Questo framework integra frame tight equal-norm overcomplete, sottocampionamento delle coordinate e quantizzazione unidimensionale attenta alla privacy per garantire la privacy differenziale locale mantenendo bassi i costi di comunicazione. Supera gli svantaggi delle tecniche attuali come vqSGD, che sono influenzate da una varianza dipendente dalla dimensione. SSTQ presenta due versioni: Flat Randomized Response e Metric-Aware Laplace, quest'ultima ideale per larghezze di bit del codebook maggiori. Il framework raggiunge una scala ottimale dell'errore quadratico medio con solo ceil(log2 N) + b bit per client, dove N = Theta(d) denota la dimensione del frame. Un obiettivo surrogato del codebook attento alla privacy migliora la scala MSE da O(4^b) a O(2^b). Gli autori dell'articolo sono ricercatori ed è stato pubblicato su arXiv.
Fatti principali
- SSTQ è un nuovo framework per l'ottimizzazione distribuita che preserva la privacy.
- Combina frame tight equal-norm overcomplete, sottocampionamento delle coordinate e quantizzazione unidimensionale attenta alla privacy.
- SSTQ garantisce la privacy differenziale locale mantenendo bassi costi di comunicazione.
- Include due varianti: Flat Randomized Response e Metric-Aware Laplace.
- SSTQ raggiunge una scala ottimale dell'errore quadratico medio utilizzando solo ceil(log2 N) + b bit per client.
- La dimensione del frame è N = Theta(d).
- Un obiettivo surrogato del codebook attento alla privacy riduce la scala MSE da O(4^b) a O(2^b).
- L'articolo è disponibile su arXiv con ID 2608.05127.
Entità
Istituzioni
- arXiv