I Modelli Linguistico-Visivi Tagliano i Costi Energetici dell'IA Codificando le Serie Temporali come Immagini
Uno studio recente pubblicato su arXiv (2608.07427) indica che i Modelli Linguistico-Visivi (VLM) possono ridurre significativamente il consumo energetico dell'IA trasformando i dati delle serie temporali in visualizzazioni 2D. Questo approccio comporta una riduzione dei token di 3,6-10,4 volte per architetture come Llama-3.2-90B, Qwen2.5-VL-72B e Pixtral-12B, portando a una diminuzione dell'energia di inferenza di 1,8-2,5 volte. Ciò equivale a un risparmio energetico giornaliero di circa 7,2 MJ nelle implementazioni edge per telecomunicazioni e nel monitoraggio CloudRAN di 200 celle ogni 15 minuti. È importante notare che un VLM Llama-3.2-90B-Vision ottimizzato dimostra una precisione superiore del 220,7% rispetto alla sua versione solo testuale e supera i benchmark LSTM e ARIMA di oltre il 144% nel rilevamento di anomalie nelle telecomunicazioni, affrontando le significative inefficienze nell'inferenza LLM che rappresentano oltre il 90% dell'energia operativa dell'IA.
Fatti principali
- L'inferenza LLM rappresenta oltre il 90% dell'energia operativa dell'IA.
- I VLM riducono i token di input di 3,6-10,4 volte codificando le serie temporali come grafici 2D.
- Si ottiene una riduzione energetica di 1,8-2,5 volte nell'inferenza.
- Si risparmiano circa 7,2 MJ/giorno nelle implementazioni edge per telecomunicazioni e CloudRAN.
- Il VLM Llama-3.2-90B-Vision ottimizzato raggiunge una precisione superiore del 220,7% rispetto alla controparte solo testuale.
- Supera i benchmark LSTM e ARIMA di oltre il 144% nel rilevamento di anomalie nelle telecomunicazioni.
- Testato su architetture Llama-3.2-90B, Qwen2.5-VL-72B e Pixtral-12B.
- Affronta l'inefficienza nell'analisi di rete delle telecomunicazioni e nell'analisi numerica dei dati delle serie temporali (NTSDA).
Entità
Istituzioni
- arXiv
- Llama
- Qwen
- Pixtral