DiffMAS: Framework di Addestramento per la Comunicazione Latente in Sistemi Multi-Agente con LLM
Un nuovo framework di addestramento chiamato DiffMAS è stato introdotto dai ricercatori, che integra la comunicazione latente come aspetto apprendibile nei sistemi multi-agente che utilizzano grandi modelli linguistici. A differenza dei metodi tradizionali che si basano su protocolli testuali statici, DiffMAS sfrutta rappresentazioni interne come le cache chiave-valore per la comunicazione tra agenti. Questo framework consente un addestramento supervisionato efficiente in termini di parametri su traiettorie latenti multi-agente, facilitando l'apprendimento congiunto della codifica e dell'interpretazione delle informazioni durante le interazioni. Esperimenti condotti su ragionamento matematico, risposta a domande scientifiche, generazione di codice e benchmark di senso comune dimostrano notevoli miglioramenti nell'accuratezza del ragionamento e nella decodifica. Questo studio colma una lacuna nell'attuale ricerca sui sistemi multi-agente con LLM, che si concentra principalmente sui ruoli degli agenti e sull'orchestrazione, trattando la comunicazione come un'interfaccia fissa.
Fatti principali
- DiffMAS tratta la comunicazione latente come componente apprendibile nei sistemi multi-agente con LLM.
- Utilizza rappresentazioni interne come le cache chiave-valore invece di protocolli testuali.
- Il framework esegue un addestramento supervisionato efficiente in termini di parametri su traiettorie latenti multi-agente.
- Gli agenti apprendono congiuntamente come le informazioni devono essere codificate e interpretate attraverso le interazioni.
- Gli esperimenti coprono ragionamento matematico, QA scientifica, generazione di codice e benchmark di senso comune.
- DiffMAS migliora costantemente l'accuratezza del ragionamento e la decodifica.
- L'attuale ricerca sui sistemi multi-agente con LLM si concentra sui ruoli degli agenti e sull'orchestrazione, non sulla comunicazione.
- Il lavoro è pubblicato su arXiv con ID 2604.21794.
Entità
Istituzioni
- arXiv