ε-MemEvo: Trasferimento di Memoria tra Compiti per l'Evoluzione di Programmi LLM
L'introduzione di un nuovo framework chiamato ε-MemEvo mira a facilitare il trasferimento di conoscenze tra vari compiti nei sistemi di evoluzione di programmi basati su LLM. A differenza di sistemi precedenti come FunSearch e AlphaEvolve, che trattano ogni compito separatamente e ignorano le precedenti esperienze di ricerca, ε-MemEvo conserva le esperienze passate come memorie tattiche agnostiche rispetto al compito—descrizioni concise in linguaggio naturale di metodi algoritmici efficaci—invece di codice grezzo. Ciò consente il trasferimento di compiti che coinvolgono diverse API e valutatori. Per prevenire il trasferimento negativo causato da memorie non corrispondenti, ε-MemEvo incorpora un gate di iniezione adattivo che determina l'appropriatezza e l'intensità dell'iniezione di memoria. Il framework è stato testato su otto diversi benchmark di ottimizzazione, inclusi ottimizzazione matematica e ingegneria dei sistemi, utilizzando un protocollo Leave-One-Out a livello di contenuto. L'articolo completo è disponibile su arXiv con l'identificatore 2608.12522.
Fatti principali
- ε-MemEvo è un framework per il trasferimento di conoscenze tra compiti nell'evoluzione di programmi LLM.
- Memorizza l'esperienza precedente come memorie tattiche agnostiche rispetto al compito: riassunti in linguaggio naturale di strategie di successo.
- Un gate di iniezione adattivo controlla l'iniezione di memoria per prevenire il trasferimento negativo.
- Valutato su 8 benchmark di ottimizzazione in ottimizzazione matematica e ingegneria dei sistemi.
- Utilizza un protocollo Leave-One-Out a livello di contenuto per la valutazione.
- Articolo disponibile su arXiv:2608.12522.
- Contrasta con FunSearch e AlphaEvolve, che ottimizzano i compiti in isolamento.
- Il formato di memoria consente il trasferimento tra diverse API e valutatori.
Entità
Istituzioni
- arXiv