Ex-GraphRAG consente un audit del routing delle evidenze in LLM potenziati da grafi
Ex-GraphRAG sostituisce gli encoder GNN con una Rete Neurale Additiva Multivariata per Grafi (M-GNAN) per fornire decomposizioni esatte degli output dell'encoder tra nodi e gruppi di caratteristiche. Ciò consente un audit fedele del routing delle evidenze nei modelli linguistici potenziati da grafi. Sul benchmark STaRK-Prime, l'encoder auditabile eguaglia le prestazioni della scatola nera. Il metodo rivela una discrepanza semantico-strutturale in cui i nodi che dominano l'output dell'encoder sono strutturalmente disconnessi dal focus semantico della query.
Fatti principali
- Ex-GraphRAG utilizza M-GNAN, un'estensione dei modelli grafici additivi a embedding ad alta dimensionalità.
- Fornisce una decomposizione esatta dell'output senza approssimazioni post-hoc.
- Su STaRK-Prime, eguaglia le prestazioni della scatola nera.
- Scopre una discrepanza semantico-strutturale nel routing delle evidenze.
- L'approccio consente di verificare quali entità influenzano l'output dell'encoder.
- GraphRAG condiziona i modelli linguistici su sottografi derivanti da grafi di conoscenza.
- Gli encoder GNN standard intrecciano i contributi dei nodi attraverso l'aggregazione di vicinato.
- Non esiste un modo in forma chiusa per determinare l'influenza di ciascuna entità in GraphRAG standard.
Entità
Istituzioni
- arXiv