L'hardware edge AI NVIDIA GB10 manca di attribuzione energetica per carichi di lavoro agentici

Un audit dell'ASUS Ascent GX10, che utilizza il SoC GB10 di NVIDIA, scopre una significativa lacuna nell'osservabilità energetica. In particolare, la piattaforma manca di un contatore energetico della CPU, di un monitor INA dei rail di alimentazione, di IPMI/BMC o del protocollo SCMI powercap accessibile tramite qualsiasi interfaccia software supportata. L'unica telemetria energetica disponibile sul dispositivo è la potenza istantanea della GPU tramite NVML. Questa svista è allarmante, soprattutto perché le attività AI agentiche—dove un singolo obiettivo utente avvia una serie di passaggi di orchestrazione, chiamate a strumenti, tentativi e sforzi di recupero—vengono prioritizzate per il deployment edge. Nel 2026, aziende come NVIDIA, Dell, HP, ASUS, MSI, Acer e Gigabyte rilasceranno sistemi AI desktop basati su GB10. Studi precedenti indicano che la struttura di orchestrazione influenza significativamente i costi energetici, con flussi di lavoro che consumano 4,33 volte più energia per obiettivo riuscito rispetto alle baseline lineari, e fino a 7,63 volte per attività di ragionamento multi-step. Inoltre, l'elaborazione lato CPU può contribuire fino al 90,6% della latenza totale e al 44% dell'energia dinamica in questi carichi di lavoro. L'assenza di tracciamento energetico a livello di processo sui sistemi GB10 ostacola la capacità degli sviluppatori di migliorare l'efficienza energetica, che diventa sempre più vitale con l'espansione delle implementazioni edge AI.