PilotWiMAE: Apprendimento Auto-Supervisionato per Canali Wireless
PilotWiMAE è un innovativo framework auto-supervisionato progettato per modelli di base del canale, in grado di gestire direttamente osservazioni pilota rumorose senza fare affidamento sulla premessa irrealistica di canali completamente osservati durante il dispiegamento. Il suo encoder utilizza una fattorizzazione dell'attenzione attraverso le dimensioni temporale e spazio-frequenziale congiunta, traendo ispirazione dalla fisica del canale. Questo approccio riduce significativamente lo spazio di osservazione fino a due ordini di grandezza e diminuisce la latenza. L'architettura fattorizzata favorisce rappresentazioni robuste, raggiungendo un rapporto di mascheramento del pre-addestramento del 99%. Inoltre, incorpora una ricostruzione normalizzata per patch per affrontare il fading su piccola scala e utilizza una perdita di scala ausiliaria per il fading su larga scala, insieme a un curriculum AWGN per allineare il rumore pilota sia nelle fasi di pre-addestramento che di dispiegamento.
Fatti principali
- PilotWiMAE è un framework auto-supervisionato per modelli di base del canale.
- Elabora direttamente osservazioni pilota rumorose, eliminando l'assunzione di canali completamente osservati.
- L'encoder fattorizza l'attenzione lungo gli assi temporale e spazio-frequenziale congiunto.
- Lo spazio di osservazione è ridotto fino a due ordini di grandezza.
- Si ottiene una latenza inferiore rispetto ai metodi full-CSI.
- Il rapporto di mascheramento del pre-addestramento del 99% è possibile grazie al design fattorizzato.
- La ricostruzione normalizzata per patch cattura il fading su piccola scala.
- La perdita di scala ausiliaria recupera le caratteristiche del fading su larga scala.
- Il curriculum AWGN allinea il rumore pilota tra pre-addestramento e dispiegamento.
Entità
Istituzioni
- arXiv