Regole Sinaptiche Locali Possono Implementare il Gradiente SIGReg Senza Retropropagazione
Un nuovo studio ha scoperto che due meccanismi di apprendimento locale nel cervello—in particolare la plasticità dipendente dal tempo di scarica (STDP⁺) e la plasticità omeostatica tramite neuroni simili a cellule granulari flash—possono imitare efficacemente un obiettivo di apprendimento auto-supervisionato simile a SIGReg senza utilizzare la retropropagazione. Questo metodo elimina la necessità di calcoli del gradiente, segnali di errore globali, trasporto dei pesi o qualsiasi etichettatura, concentrandosi invece sulle frequenze di scarica prima e dopo le sinapsi, le statistiche locali di scarica e la tempistica degli input sensoriali naturali. In un test di clustering, una sequenza di input organizzata ha aumentato la separazione dei cluster a 2.49, mentre input casuali l'hanno mantenuta a 0.83, con un incremento quasi triplo dovuto solo all'ordine degli input. Una rete a due strati ha mostrato risultati simili con dati MNIST ordinati, suggerendo che i circuiti neurali biologici potrebbero raggiungere un apprendimento complesso attraverso regole locali, offrendo un'alternativa potenziale alla retropropagazione nel calcolo neuromorfico.
Fatti principali
- Due regole sinaptiche locali (STDP⁺ e plasticità omeostatica) implementano il gradiente esatto di un obiettivo simile a SIGReg.
- Nessuna necessità di calcoli del gradiente, segnali di errore globali, trasporto dei pesi o etichette.
- Input: frequenze di scarica pre- e post-sinaptiche, statistiche locali, contiguità temporale.
- Compito di clustering sintetico: presentazione ordinata CSR=2.49, casuale CSR=0.83 (≈3.5σ di separazione).
- MNIST temporalmente ordinato: rete a due strati mostra prestazioni simili.
- Studio pubblicato su arXiv (2607.21622v1).
- Implicazioni per l'apprendimento biologico e il calcolo neuromorfico.
Entità
Istituzioni
- arXiv