Limiti di Generalizzazione delle Reti Neurali Spike tramite Complessità di Rademacher

Un nuovo articolo teorico su arXiv indaga i limiti di generalizzazione delle Reti Neurali Spike (SNN) utilizzando la complessità di Rademacher. Lo studio rivela che la complessità di Rademacher empirica delle SNN è esponenziale rispetto alla profondità della rete e alla probabilità di eccitazione, basandosi su lavori precedenti che stabilivano limiti dipendenti dall'eccitazione. La ricerca si concentra su SNN con attivazione stocastica e vari schemi di integrazione-e-fuoco, con l'obiettivo di chiarire quanto bene questi modelli bio-ispirati si comportino su dati non visti. I risultati evidenziano la sfida della profondità nella generalizzazione delle SNN, con una complessità che cresce esponenzialmente. Questo lavoro contribuisce alla comprensione teorica delle SNN, che stanno guadagnando terreno nel calcolo neuromorfico e nel calcolo sparso grazie alla loro efficienza. L'articolo è disponibile su arXiv con ID 2605.02927.