MEMOIR: Sintesi di Solutori LLM tramite Ricerca ad Albero Guidata dalla Memoria
Un nuovo framework chiamato MEMOIR migliora la sintesi di solutori basati su grandi modelli linguistici (LLM) per l'ottimizzazione combinatoria (CO). La CO è cruciale per il processo decisionale in settori come la logistica e la progettazione di chip, dove soluzioni non realizzabili sono inefficaci e anche piccoli miglioramenti possono portare a significativi benefici economici. Recenti progressi hanno utilizzato LLM per automatizzare la creazione di programmi solutori eseguibili a partire da descrizioni in linguaggio naturale. Gli attuali agenti di ricerca ad albero ed evolutivi migliorano i percorsi candidati in parallelo, ma mancano di un trasferimento esplicito di conoscenza, il che può portare a violazioni dei vincoli e convergenza su tipi di algoritmi simili. MEMOIR presenta un sistema di memoria a due livelli: la memoria locale di ramo mantiene i dettagli di raffinamento basati sull'esecuzione durante le iterazioni di un singolo progetto algoritmico, mentre la memoria globale conserva riassunti compressi di algoritmi e modalità di fallimento tra i rami. Le intuizioni vengono distillate durante una fase di riflessione alla fine di ogni ramo. Il framework è descritto in arXiv:2605.17539.
Fatti principali
- MEMOIR è un framework di ricerca ad albero guidato dalla memoria per la sintesi di solutori LLM.
- Si rivolge a problemi di ottimizzazione combinatoria in logistica e progettazione di chip.
- I metodi esistenti mancano di un trasferimento esplicito di conoscenza tra i rami.
- MEMOIR utilizza livelli di memoria locale di ramo e globale.
- La memoria locale di ramo memorizza i dettagli di raffinamento all'interno di un ramo.
- La memoria globale memorizza riassunti di algoritmi e modalità di fallimento tra i rami.
- Un passo di riflessione alla terminazione del ramo distilla le intuizioni.
- L'articolo è disponibile su arXiv con ID 2605.17539.
Entità
Istituzioni
- arXiv