La Valutazione dei Neuroni di Shapley Migliora l'Apprendimento Continuo Senza Buffer di Memoria
Un recente articolo nel machine learning presenta la Valutazione dei Neuroni di Shapley (SNV), un nuovo framework che valuta l'importanza dei neuroni nell'apprendimento continuo attraverso la lente della teoria dei giochi cooperativi. Congelando selettivamente i neuroni cruciali e permettendo ad altri di rimanere adattabili, SNV facilita l'apprendimento continuo senza bisogno di architetture aggiuntive. I test condotti su ImageNet-1k indicano che SNV supera gli attuali approcci senza buffer, ottenendo un aumento del +2,88% nell'accuratezza per l'apprendimento incrementale per classi e un +6,46% per l'apprendimento incrementale per compiti. Questa ricerca è disponibile su arXiv nelle sezioni di informatica e machine learning.
Fatti principali
- SNV utilizza la teoria dei giochi cooperativi per quantificare l'importanza dei neuroni
- Congela selettivamente i neuroni importanti per prevenire l'oblio catastrofico
- Metodo senza buffer, nessun replay di memoria o espansione dell'architettura necessaria
- Testato sul dataset ImageNet-1k
- Migliora l'accuratezza dell'apprendimento incrementale per classi del +2,88%
- Migliora l'accuratezza dell'apprendimento incrementale per compiti del +6,46%
- Pubblicato su arXiv
- Affronta l'oblio catastrofico nelle reti neurali
Entità
Istituzioni
- arXiv