NANQ: Quantizzazione Mista a Precisione Consapevole del Rumore per CIM Analogico

Il nuovo framework introdotto, NANQ, affronta il problema del rumore hardware nei sistemi di calcolo in memoria (CIM) analogici utilizzati per l'inferenza di reti neurali. Sebbene il CIM analogico sia noto per la sua efficienza energetica, deve affrontare sfide dovute alla variazione dei dispositivi e al rumore di lettura, che influenzano negativamente i modelli quantizzati a bassa precisione. Le attuali tecniche di quantizzazione si concentrano sulla minimizzazione degli errori di quantizzazione ideali ma trascurano il rumore hardware di base, risultando in una distribuzione di precisione subottimale. NANQ modella efficacemente il rumore dei pesi che dipende dalla magnitudine, derivato dalle risposte reali di un array CIM eFlash, e trasforma questo profilo di rumore in una densità di quantizzazione adattiva. Ciò consente una risoluzione più fine nelle aree a basso rumore e previene una precisione inefficace nelle zone ad alto rumore. Determina inoltre le larghezze di bit per livello individuando la soglia di saturazione della precisione di ciascun livello sotto il rumore hardware. I risultati sperimentali su un SoC CIM eFlash rivelano che con la quantizzazione della magnitudine dei pesi a 2 bit, NANQ migliora significativamente l'accuratezza rispetto agli approcci esistenti. L'articolo di ricerca è disponibile su arXiv con identificatore 2608.02700.