L'apprendimento per rinforzo riduce il consumo energetico dei data center AI: controllo misurato della potenza nell'addestramento di LLM

Un recente articolo su arXiv (2608.11226) introduce un metodo di apprendimento per rinforzo volto a minimizzare il consumo energetico nei data center AI durante l'addestramento di grandi modelli linguistici (LLM). Concentrandosi sull'addestramento GRPO, la ricerca impiega telemetria di potenza a mezzo secondo su varie scale di 7B, 14B e 72B parametri utilizzando da una a quattro GPU A100, accumulando oltre 380.000 punti dati. Un meta-controller PPO modifica i parametri di generazione del carico di lavoro in base alle misurazioni di potenza, ottenendo una riduzione dell'89,8% delle violazioni del limite di potenza, un aumento del 18,1% della produzione di token e un miglioramento del 26,2% dell'efficienza energetica (token per MWh) rispetto a una traccia completa di 500 passi a 7B. Tuttavia, i test dal vivo alla scala 72B hanno prodotto risultati nulli simili, attribuiti all'attuatore della dimensione del gruppo che perde il controllo durante lo sharding del modello. Una scansione dell'autorità dell'attuatore suggerisce che l'uso degli stessi parametri della concorrenza di generazione mantiene 17-... L'articolo sottolinea le carenze dei sistemi di gestione dell'energia esistenti che non tengono conto del carico di lavoro e sostiene una strategia più sofisticata e consapevole del carico di lavoro.