EcoVLA: Co-Inferenza Dispositivo-Edge Efficiente dal Punto di Vista Energetico per Modelli Visione-Linguaggio-Azione
Un nuovo articolo di ricerca su arXiv (ID: 2608.15502) introduce EcoVLA, un framework adattivo di co-inferenza dispositivo-edge progettato per modelli Visione-Linguaggio-Azione (VLA). Il framework mira a massimizzare l'efficienza energetica del sistema rispettando i vincoli di tempo reale nei sistemi robotici. I modelli VLA, fondamentali per l'IA Embodied, presentano costi di inferenza elevati che ne sfidano la distribuzione. L'inferenza sul dispositivo è limitata dalla capacità di calcolo e dai budget energetici, faticando a bilanciare controllo in tempo reale ed efficienza energetica. Lo scarico dell'inferenza su server edge introduce una latenza imprevedibile a causa delle condizioni di sistema fluttuanti. EcoVLA affronta questi problemi proponendo un framework di co-inferenza unificato che considera congiuntamente i vincoli di tempo reale e l'efficienza energetica a livello di sistema. L'articolo evidenzia la scarsità di ricerca sistematica sulla co-inferenza adattata ai modelli VLA. Il framework è presentato come una soluzione per ottimizzare l'efficienza energetica senza compromettere le prestazioni in tempo reale. La ricerca è pubblicata su arXiv, un server di prestampa, ed è disponibile all'URL fornito.
Fatti principali
- ID dell'articolo: arXiv:2608.15502
- Titolo: EcoVLA: Co-Inferenza Dispositivo-Edge Efficiente dal Punto di Vista Energetico per Modelli Visione-Linguaggio-Azione sotto Vincoli di Tempo Reale
- Pubblicato su arXiv
- Introduce EcoVLA, un framework adattivo di co-inferenza dispositivo-edge
- Si rivolge a modelli Visione-Linguaggio-Azione (VLA)
- Mira a massimizzare l'efficienza energetica del sistema sotto vincoli di tempo reale
- Affronta le sfide dell'inferenza sul dispositivo e dello scarico su edge
- Propone un framework di co-inferenza unificato per modelli VLA
Entità
Istituzioni
- arXiv