Quantizzazione ad Accesso Casuale Quantistico: Un Nuovo Approccio alla Quantizzazione Post-Addestramento a un Bit
Uno studio recente pubblicato su arXiv (2608.05240) presenta la Quantizzazione ad Accesso Casuale Quantistico (QRAQ), un nuovo framework che affronta la limitazione del segno condiviso nella quantizzazione post-addestramento (PTQ) a un bit. In questo approccio, ogni peso è definito esclusivamente dal suo segno, richiedendo una matrice di pesi binaria uniforme in tutti gli scenari di implementazione, nonostante le statistiche di attivazione differenti. QRAQ utilizza un codice di accesso casuale quantistico per codificare segni specifici del contesto, che vengono recuperati tramite misurazioni di Pauli allineate al contesto. Utilizzando un modello di lettura logica a copia fresca, QRAQ genera un surrogato binario imparziale e rilevante per il contesto, gestendo una penalità di rumore di tiro gestibile. Lo studio dimostra una distinzione per righe dalla PTQ a un bit con segno condiviso con scale per riga con segno, raggiungendo un rischio di ricostruzione ideale inferiore quando i segni di contesto ottimali sono in conflitto. Inoltre, gli autori delineano le condizioni per il rumore a tiri finiti e calibrato che preservano questa separazione. Questa ricerca teorica ha il potenziale per migliorare l'efficienza di implementazione delle reti neurali in diversi contesti.
Fatti principali
- Articolo su arXiv: 2608.05240
- Introduce la Quantizzazione ad Accesso Casuale Quantistico (QRAQ)
- Affronta il vincolo del segno condiviso nella quantizzazione post-addestramento a un bit
- Utilizza codici di accesso casuale quantistici e misurazioni di Pauli
- Dimostra la separazione per righe dalla PTQ a un bit con segno condiviso
- Raggiunge un rischio di ricostruzione ideale inferiore quando i segni contestuali sono incompatibili
- Deriva condizioni per tiri finiti e rumore calibrato
- Pubblicato come annuncio incrociato su arXiv
Entità
Istituzioni
- arXiv