NEURON: IA Neuro-Simbolica per la Spiegabilità Clinica
NEURON, un innovativo sistema neuro-simbolico, mira a migliorare la spiegabilità dell'IA clinica combinando l'apprendimento automatico con l'ontologia SNOMED CT. Il sistema incorpora un livello LLM basato su Retrieval-Augmented Generation (RAG) per trasformare le attribuzioni delle feature SHAP e le note dei pazienti in spiegazioni coerenti in linguaggio naturale. Testato sul dataset MIMIC-IV per la previsione della mortalità nell'insufficienza cardiaca acuta, NEURON ha aumentato l'AUC da 0,74-0,77 a 0,84-0,88, superando l'efficacia delle visualizzazioni SHAP grezze in metriche allineate all'umano (0,85 rispetto al basale). Questo sviluppo affronta la natura opaca dei modelli ad alte prestazioni utilizzati in ambito clinico.
Fatti principali
- NEURON è un sistema neuro-simbolico per la spiegabilità clinica
- Integra l'ontologia SNOMED CT con l'apprendimento automatico
- Utilizza un livello LLM basato su RAG per generare spiegazioni in linguaggio naturale
- Validato sul dataset MIMIC-IV per la previsione della mortalità nell'insufficienza cardiaca acuta
- Miglioramento dell'AUC da 0,74-0,77 a 0,84-0,88
- Supera le visualizzazioni SHAP grezze in metriche allineate all'umano (0,85 vs. basale)
- Affronta la natura a scatola nera dei modelli di IA clinica
- Pubblicato su arXiv come preprint 2605.01189
Entità
Istituzioni
- arXiv
- SNOMED CT
- MIMIC-IV