Ottimizzazione Decentralizzata per Dati in Streaming tramite Ponderazione Temporale

Uno studio recente pubblicato su arXiv introduce una tecnica di discesa del gradiente decentralizzata (DGD) progettata per ottimizzare problemi variabili nel tempo con dati in streaming. Questo metodo impiega un obiettivo temporalmente ponderato che compila tutti i campioni raccolti da una rete di agenti distribuiti. Ad ogni passo temporale, ogni agente acquisisce un nuovo campione, e l'obiettivo della rete è seguire il minimizzatore di questo obiettivo ponderato rispettando i vincoli sulle risorse di comunicazione e computazionali. Gli autori valutano gli errori di inseguimento per funzioni di perdita sia fortemente convesse che lisce, in particolare in situazioni in cui solo un numero limitato di iterazioni DGD può avvenire prima che l'obiettivo cambi. Questa ricerca affronta le complessità degli ambienti dinamici nei sistemi di apprendimento contemporanei, andando oltre l'ottimizzazione tradizionale a obiettivo fisso.