A-LEMS: Ridefinire le metriche energetiche dell'IA per i sistemi agentici
Un nuovo articolo su arXiv (2605.22883) introduce A-LEMS (Agentic LLM Energy Measurement System), un framework che sposta la contabilità energetica dell'IA da per-inferenza a Energia per Obiettivo Riuscito (EpG). Gli attuali benchmark misurano il consumo per invocazione del modello, il che fallisce per i sistemi agentici in cui un singolo obiettivo innesca orchestrazione multi-step, chiamate a strumenti, tentativi e cicli di recupero da errori. A-LEMS aggrega l'energia totale del flusso di lavoro attraverso tutti i tentativi, normalizzata per gli obiettivi completati con successo, utilizzando un modello di confine temporale e una pipeline di osservazione a cinque livelli che mappa i segnali RAPL. Il sistema mira a fornire una metrica basata sulle proprietà del compito piuttosto che su un artefatto di implementazione.
Fatti principali
- L'articolo arXiv 2605.22883 introduce A-LEMS
- A-LEMS sta per Agentic LLM Energy Measurement System
- Nuova metrica: Energia per Obiettivo Riuscito (EpG)
- Gli attuali benchmark misurano per invocazione, non per obiettivo
- I sistemi agentici coinvolgono orchestrazione multi-step, chiamate a strumenti, tentativi, recupero da errori
- EpG aggrega l'energia attraverso tutti i tentativi di esecuzione
- Normalizzata per gli obiettivi completati con successo
- Utilizza un modello di confine temporale e una pipeline di osservazione a cinque livelli
Entità
Istituzioni
- arXiv