Il framework BIRDS quantifica l'impatto sulla biodiversità del servizio LLM
I ricercatori hanno sviluppato BIRDS (Biodiversity Impact of Request-Driven LLM Serving), un framework per quantificare il danno ecologico del servizio di grandi modelli linguistici oltre le impronte di carbonio e idriche. BIRDS definisce unità funzionali a livello di richiesta e misura sia l'impatto operativo che incorporato sulla biodiversità. Introduce l'Impatto sulla Biodiversità Normalizzato per la Qualità (QNBI) per valutare congiuntamente gli effetti ecologici e la qualità della risposta. Esperimenti su diversi carichi di lavoro, modelli, GPU e regioni mostrano che l'impatto sulla biodiversità si accumula su larga scala e rivela compromessi attuabili consapevoli della qualità.
Fatti principali
- BIRDS sta per Biodiversity Impact of Request-Driven LLM Serving
- Il framework quantifica il danno agli ecosistemi derivante dal servizio LLM
- Misura l'impatto operativo e incorporato sulla biodiversità
- Introduce l'Impatto sulla Biodiversità Normalizzato per la Qualità (QNBI)
- Testato su diversi carichi di lavoro, modelli, GPU e regioni
- L'impatto sulla biodiversità si accumula su larga scala
- Rivela compromessi attuabili consapevoli della qualità nel servizio
- Pubblicato su arXiv sotto Biologia Quantitativa > Altre Biologie Quantitative
Entità
Istituzioni
- arXiv