CuraView: Framework Multi-Agente per il Rilevamento di Allucinazioni Mediche
CuraView è un innovativo sistema multi-agente volto a identificare allucinazioni di fedeltà nei riassunti di dimissione prodotti da modelli linguistici di grandi dimensioni (LLM). Sviluppa un grafo di conoscenza basato su GraphRAG a partire dalle cartelle cliniche elettroniche (EHR) specifiche del paziente e presenta un pipeline a ciclo chiuso per la generazione e il rilevamento, utilizzando il recupero di prove a livello di frase e la classificazione su quattro livelli di evidenza (E1-E4), che vanno dal forte supporto alla diretta contraddizione. Questo framework offre catene di prove chiare e strutturate per individuare affermazioni in conflitto con i record originali, mitigando così i potenziali rischi per la sicurezza del paziente. La valutazione di CuraView è stata condotta su un campione di 250 pazienti tratti dal dataset Di.
Fatti principali
- CuraView è un framework multi-agente per rilevare allucinazioni di fedeltà nei riassunti di dimissione generati da LLM.
- Utilizza GraphRAG per costruire un grafo di conoscenza dalle EHR a livello di paziente.
- Il framework impiega un pipeline di generazione e rilevamento a ciclo chiuso.
- Il recupero e la classificazione delle prove coprono quattro gradi: E1 (forte supporto) a E4 (diretta contraddizione).
- Produce catene di prove strutturate e interpretabili.
- Le allucinazioni di fedeltà sono affermazioni che contraddicono i record di origine.
- Gli LLM possono migliorare l'efficienza di generazione ma sono soggetti ad allucinazioni.
- Il framework è stato valutato su 250 pazienti del dataset Di.
Entità
—