Un articolo di ricerca propone la distillazione della conoscenza sensibile all'energia per LLM di codice sostenibili

Uno studio recente pubblicato su arXiv introduce un metodo per la distillazione della conoscenza efficiente dal punto di vista energetico, volto a migliorare la sostenibilità dei Grandi Modelli Linguistici (LLM) nelle applicazioni di Ingegneria del Software (SE). Questa ricerca affronta le crescenti problematiche legate ai notevoli requisiti computazionali e al consumo energetico degli LLM, che ne complicano l'uso su dispositivi di consumo e piattaforme con risorse limitate. Mentre le valutazioni tradizionali dei costi spesso dipendono dalle Operazioni in Virgola Mobile (FLOPs), gli autori mettono in discussione la validità dei FLOPs come metrica sensibile all'energia. Eseguono un esperimento controllato utilizzando Morph, una tecnica di distillazione basata sull'ottimizzazione multi-obiettivo, per esplorare gli effetti della distillazione della conoscenza sensibile all'energia. L'attenzione è sui compiti di SE, tra cui il rilevamento di cloni, la previsione di vulnerabilità e il riepilogo del codice, dove gli LLM dimostrano una notevole accuratezza, con l'obiettivo di promuovere metodologie di IA sostenibili.