L'allineamento topologico dei grafi migliora il rilevamento delle allucinazioni nei LLM

Una nuova tecnica utilizza l'allineamento topologico dei grafi per identificare le allucinazioni nei modelli linguistici di grandi dimensioni (LLM). I ricercatori creano grafi bipartiti allineati che collegano i dati di riferimento con gli output del LLM e successivamente addestrano una rete neurale a grafo (GNN) per comprendere la struttura di allineamento attraverso il passaggio di messaggi. Questo metodo stabilisce un nuovo punto di riferimento in quattro diversi test di rilevamento delle allucinazioni. Affronta un significativo svantaggio dei LLM: la loro ottimizzazione per continuazioni plausibili piuttosto che per verificare se le affermazioni generate sono supportate dai documenti di origine. Mentre le strategie esistenti come l'aumento del recupero, l'autoconsistenza e la verifica delle affermazioni migliorano l'accuratezza fattuale, non apprendono direttamente dalla topologia di allineamento. Questo approccio innovativo utilizza la struttura di allineamento come segnale di apprendimento. La ricerca è pubblicata su arXiv con l'identificatore 2605.22963.