DecoEvo: Co-Evoluzione del Risolutore LLM e del Generatore di Rubriche nello Spazio Testuale
Un nuovo metodo chiamato DecoEvo (Co-Evoluzione Disaccoppiata) è stato sviluppato dai ricercatori per potenziare i grandi modelli linguistici (LLM) nello spazio testuale senza alterare i pesi del modello. A differenza dei metodi tradizionali nello spazio testuale che mantengono una valutazione statica, DecoEvo evolve simultaneamente un'abilità di risolutore e un'abilità di generatore di rubriche con obiettivi separati. Il risolutore beneficia di feedback a livello di criterio, mentre il generatore di rubriche subisce revisioni attraverso processi complementari. Questa innovazione affronta i limiti delle rubriche fisse che non riescono a catturare aspetti non misurati e impedisce al risolutore di sfruttare cambiamenti inaffidabili delle rubriche. È importante notare che le rubriche d'oro non vengono utilizzate durante il processo di ottimizzazione. L'articolo di ricerca è disponibile su arXiv.
Fatti principali
- 1. DecoEvo co-evolve le abilità di risolutore e generatore di rubriche nello spazio testuale
- 2. L'ottimizzazione nello spazio testuale modifica artefatti linguistici naturali esterni
- 3. I pesi del modello rimangono invariati; il modello è trattato come una scatola nera
- 4. I metodi esistenti nello spazio testuale mantengono la valutazione fissa
- 5. Le rubriche fisse diventano un collo di bottiglia in compiti aperti
- 6. L'evoluzione della sola rubrica è inaffidabile quando selezionata dal punteggio del risolutore
- 7. DecoEvo utilizza obiettivi disaccoppiati senza rubriche d'oro
- 8. Il risolutore viene aggiornato tramite feedback a livello di criterio
Entità
Istituzioni
- arXiv