La riformulazione I/O-aware riduce il traffico di memoria nelle convoluzioni wavelet

Un nuovo studio su arXiv (2608.10805) presenta una riformulazione delle convoluzioni wavelet (WTConv) che tiene conto dell'I/O, rendendola una scelta popolare rispetto alle convoluzioni tradizionali nelle reti neurali. WTConv aumenta il campo recettivo della rete con ogni livello di decomposizione mantenendo lineare il numero di parametri. Tuttavia, l'implementazione tipica soffre di problemi di memoria a causa dell'esteso movimento di dati nella memoria ad alta larghezza di banda (HBM). I ricercatori sviluppano un modello I/O per affrontare questo problema e suggeriscono tre modifiche algebriche: (1) eseguire la farfalla di analisi di Haar sul chip, (2) combinare la sintesi multi-livello in un unico passaggio basato sui bit delle coordinate di output, e (3) aggiungere scale apprese per canale ai pesi di convoluzione. Queste modifiche producono un'implementazione fusa che riduce significativamente il traffico HBM. Lo studio valuta la configurazione WTConvNeXt a vari livelli e condizioni, dimostrando una notevole riduzione dell'uso di memoria. Questo lavoro è cruciale per l'arte digitale e la tecnologia AI, migliorando l'efficienza delle reti neurali e consentendo modelli più avanzati su hardware limitato.