DynaResize: Riallocazione Runtime delle GPU per il Post-Training Disaggregato di LLM

DynaResize, un sistema innovativo, affronta le inefficienze nei processi pipeline durante la fase di post-training di LLM basati su RL riallocando le GPU in tempo reale tra le fasi di Rollout e Training. Questo metodo scompone il ridimensionamento in operazioni dettagliate ed elimina compiti non essenziali dal percorso critico tramite riutilizzo del comunicatore, staging dello stato limitato e ridimensionamento guidato dall'isteresi. I risultati sperimentali indicano un miglioramento del 66,5% nel throughput complessivo e una riduzione del 33% del tempo di esecuzione totale rispetto alla migliore configurazione statica, nascondendo il 27% dell'overhead associato al cambio di ruolo. Il documento completo è disponibile su arXiv.