Studio Scopre che i Modelli LLM Non-Ragionanti Usano 1/20 dell'Energia, Potrebbero Risparmiare l'Elettricità Annuale di 141.000 Famiglie USA

Un recente articolo (2608.12350) pubblicato su arXiv esplora come i compiti variabili nei modelli linguistici di grandi dimensioni (LLM) consumino energia, sottolineando il ruolo della gestione della domanda nel ridurre l'impronta ecologica dei data center AI. Lo studio valuta quattro comportamenti dei consumatori caratterizzati da elevata adattabilità per determinare il loro potenziale di risparmio energetico tecnico. In particolare, la ricerca rivela che i modelli non-ragionanti forniscono prestazioni adeguate utilizzando quasi un ventesimo dell'energia richiesta dai modelli ragionanti. Questa riduzione del consumo energetico è paragonabile al fabbisogno elettrico annuale di oltre 141.000 famiglie negli Stati Uniti. Inoltre, l'articolo evidenzia la crescente attenzione verso l'elettricità a prezzi accessibili per i data center AI e la scarsità di studi sulla gestione della domanda.