E2-Explainer: Inferenza Causale per Topologie di Comunicazione Interpretabili in Sistemi Multi-Agente basati su LLM
Il framework E2-Explainer è stato sviluppato per migliorare l'interpretabilità delle topologie di comunicazione all'interno di sistemi multi-agente (MAS) che utilizzano modelli linguistici di grandi dimensioni (LLM). I metodi attuali per generare topologie dipendono da un'ottimizzazione a scatola nera focalizzata esclusivamente su ricompense a livello di compito, che non riesce a chiarire le ragioni dietro specifiche selezioni di archi di comunicazione. E2-Explainer affronta questo problema inquadrando la spiegazione della topologia come un problema di attribuzione causale, individuando sottografi di comunicazione compatti supportati da evidenze a livello di arco sulla preservazione del compito. Per raccogliere queste evidenze, il framework impiega un obiettivo in stile Granger, consentendo intuizioni interpretabili per vari generatori di topologie. Questa ricerca è disponibile su arXiv con l'identificatore 2608.12921.
Fatti principali
- E2-Explainer è un framework agnostico rispetto al modello per spiegare le topologie di comunicazione in sistemi multi-agente basati su LLM.
- Formula la spiegazione della topologia come un problema di attribuzione causale.
- Identifica sottografi di comunicazione compatti supportati da evidenze a livello di arco sulla preservazione del compito.
- Il framework utilizza un obiettivo in stile Granger per ottenere evidenze.
- I metodi esistenti di generazione di topologie usano un'ottimizzazione a scatola nera guidata da ricompense a livello di compito.
- La ricerca è disponibile su arXiv con l'identificatore 2608.12921.
- L'obiettivo è fornire spiegazioni interpretabili per generatori di topologie arbitrari.
- Il framework mira a identificare sottografi di comunicazione critici responsabili di una collaborazione di successo.
Entità
Istituzioni
- arXiv