HypEHR: Modello Iperbolico per il Question Answering Efficiente su Cartelle Cliniche Elettroniche
I ricercatori hanno introdotto HypEHR, un framework Lorentziano semplificato progettato per rispondere a domande relative alle cartelle cliniche elettroniche, incorporando codici, visite e richieste in uno spazio iperbolico. Questo modello sfrutta la geometria iperbolica per rappresentare efficacemente la natura gerarchica dei dati clinici, ispirandosi a risultati che suggeriscono che le ontologie mediche e i percorsi dei pazienti riflettono questa geometria. HypEHR impiega un'attenzione incrociata geometricamente coerente insieme a testine puntatrici specifiche per tipo per le risposte alle query. Viene sottoposto a pre-addestramento incentrato sulla previsione delle diagnosi della visita successiva e incorpora una regolarizzazione sensibile alla gerarchia per garantire l'allineamento con l'ontologia ICD. Nelle valutazioni su due benchmark EHR-QA basati su MIMIC-IV, HypEHR si avvicina quasi agli approcci basati su LLM richiedendo significativamente meno parametri. Il codice sorgente è accessibile pubblicamente.
Fatti principali
- HypEHR è un modello iperbolico per il question answering su cartelle cliniche elettroniche.
- Utilizza un modello Lorentziano per incorporare codici, visite e domande in uno spazio iperbolico.
- Il modello impiega attenzione incrociata geometricamente coerente con testine puntatrici specifiche per tipo.
- Il pre-addestramento include la previsione delle diagnosi della visita successiva e la regolarizzazione sensibile alla gerarchia.
- Valutato su due benchmark EHR-QA basati su MIMIC-IV.
- HypEHR si avvicina ai metodi basati su LLM con meno parametri.
- Il codice è disponibile pubblicamente all'URL fornito.
- Il lavoro è stato sottomesso ad arXiv sotto Computer Science > Artificial Intelligence.
Entità
Istituzioni
- arXiv