COMPAS: Ricerca Congiunta Sensibile alla Difficoltà per Ottimizzare la Generazione di Codice
Uno studio recente pubblicato su arXiv (2608.04336) presenta COMPAS, una nuova tecnica volta a migliorare la generazione di codice nei grandi modelli linguistici (LLM). La ricerca indaga l'interazione tra selezione del modello, prompt e parametri di decodifica, rivelando che l'interazione tra prompt e impostazioni di decodifica varia a seconda del modello, con configurazioni ottimali influenzate dalla complessità del compito. COMPAS identifica fronti di qualità-costo specifici per gruppo impiegando una selezione del modello economicamente vantaggiosa e una ricerca congiunta prompt-decodifica, indirizzando successivamente ogni compito di test al fronte corrispondente in tempo reale. Questo metodo supera i limiti delle tecniche attuali che ottimizzano solo alcuni aspetti della configurazione o applicano un'impostazione uniforme a tutti i compiti.
Fatti principali
- ID del documento: arXiv:2608.04336
- Tipo di annuncio: cross
- COMPAS sta per Ottimizzazione della Generazione di Codice su Modelli, Prompt e Impostazioni di Decodifica
- Il metodo è sensibile alla difficoltà
- Apprende fronti di qualità-costo specifici per gruppo
- Utilizza selezione del modello a basso costo e ricerca congiunta prompt-decodifica
- Instrada i compiti di test ai fronti corrispondenti online
- Affronta i limiti degli ottimizzatori globali, dei router e degli ottimizzatori di prompt
Entità
Istituzioni
- arXiv