MAGE: Evoluzione Guidata da Grafo Multi-Agente per Modelli Linguistici
È stato introdotto un nuovo framework chiamato MAGE, che sta per Multi-Agent Graph-guided Evolution, per creare agenti basati su modelli linguistici in grado di evolversi autonomamente. Questo sistema incorpora un grafo di conoscenza co-evolutivo con quattro sottografi, di cui uno incentrato sulle esperienze. Questo sottografo delle esperienze memorizza sia le correzioni degli insegnanti che i percorsi di ragionamento corretti precedenti dell'apprendista, fornendo una guida specifica per i compiti. Durante la sua evoluzione, il grafo viene aggiornato insieme a un bandit di ricerca a livello di compito e un bandit di routing a livello di abilità, tutti beneficiando di un flusso di ricompensa comune, mentre la struttura principale dell'apprendista rimane invariata. Un'analisi strutturale nell'articolo mostra come questo approccio mantenga un backbone debole statico durante l'inferenza, affrontando i difetti riscontrati nei modelli esistenti. La ricerca è disponibile su arXiv con l'identificatore 2605.10064.
Fatti principali
- MAGE sta per Multi-Agent Graph-guided Evolution
- Il framework esternalizza la conoscenza di sé in un grafo di conoscenza co-evolutivo con quattro sottografi
- Il sottografo delle esperienze memorizza le correzioni degli errori scritte dagli insegnanti e le tracce di ragionamento corrette dell'apprendista
- La conoscenza recuperata funge da guida condizionata al compito per un modello di esecuzione congelato
- Il grafo, il bandit di ricerca a livello di compito e il bandit di routing a livello di abilità vengono aggiornati dallo stesso flusso di ricompensa
- Il backbone dell'apprendista rimane invariato durante l'evoluzione
- Affronta le limitazioni del feedback in linguaggio naturale, della memoria episodica piatta e dei segnali di rinforzo impliciti
- Pubblicato su arXiv con l'identificatore 2605.10064
Entità
Istituzioni
- arXiv