La dimensionalità determina quando la modularità aiuta l'apprendimento continuo

Un nuovo studio su arXiv (2604.27656) indaga come l'architettura di rete, la similarità dei compiti e la dimensionalità rappresentazionale influenzino congiuntamente il dilemma stabilità-plasticità nell'apprendimento continuo. I ricercatori hanno confrontato una rete ricorrente modulare suddivisa per compiti con una baseline a modulo singolo, variando sistematicamente la similarità dei compiti (bassa, media, alta) e la scala di inizializzazione dei pesi. Lo studio ha rilevato che i benefici della modularità dipendono criticamente dalla dimensionalità rappresentazionale: in contesti a bassa dimensionalità, la struttura modulare riduce l'interferenza, mentre in contesti ad alta dimensionalità, le rappresentazioni condivise sono più efficaci. Il lavoro fornisce una caratterizzazione empirica dei regimi di apprendimento e offre spunti su quando la separazione strutturale migliora o ostacola il trasferimento di conoscenze tra compiti sequenziali.