NORACL: Apprendimento Continuo Ispirato alla Neurogenesi Senza Architettura Oracle
Un nuovo metodo di machine learning, NORACL, affronta il dilemma stabilità-plasticità nell'apprendimento continuo traendo ispirazione dalla neurogenesi biologica. L'approccio elimina la necessità di un'architettura oracle—una rete a capacità fissa dimensionata per un flusso futuro sconosciuto di compiti. I metodi tradizionali basati su regolarizzazione preservano la conoscenza passata all'interno di architetture fisse, che o esauriscono le risorse plastiche quando i compiti sono debolmente correlati o diventano sovradimensionati quando i compiti sono pochi o fortemente sovrapposti. NORACL regola dinamicamente le risorse rappresentazionali e plastiche, consentendo al modello di rimanere sufficientemente plastico per apprendere nuovi compiti e sufficientemente stabile per mantenere le capacità apprese in precedenza. Il metodo è descritto in un articolo su arXiv (2604.27031), pubblicato nell'aprile 2025.
Fatti principali
- 1. NORACL è un metodo di apprendimento continuo ispirato alla neurogenesi.
- 2. Affronta il dilemma stabilità-plasticità.
- 3. Elimina la necessità di un'architettura oracle.
- 4. I metodi basati su regolarizzazione si basano su architetture a capacità fissa.
- 5. Le architetture fisse esauriscono le risorse plastiche per compiti debolmente correlati.
- 6. Le architetture fisse sono sovradimensionate per compiti pochi o fortemente sovrapposti.
- 7. L'articolo è su arXiv con ID 2604.27031.
- 8. L'articolo è stato pubblicato nell'aprile 2025.
Entità
Istituzioni
- arXiv