Meta-Predicati per un Supporto Decisionale Clinico AI Affidabile
È stato sviluppato un nuovo framework che incorpora meta-predicati per imporre vincoli epistemologici all'interno dei sistemi di supporto decisionale clinico, soddisfacendo gli standard normativi per la verificabilità come delineato dall'AI Act dell'UE e dalle linee guida della FDA. Questa metodologia categorizza le annotazioni in quattro dimensioni chiave: scopo, dominio di conoscenza, scala e metodo di acquisizione. È implementata in AnFiSA, una piattaforma open-source dedicata alla cura di varianti genetiche, e la sua efficacia è dimostrata attraverso il dataset Brigham Geno.
Fatti principali
- I quadri normativi come l'AI Act dell'UE e le linee guida della FDA richiedono verificabilità per i dispositivi medici basati su AI/ML.
- I linguaggi formali esistenti convalidano la correttezza sintattica e strutturale ma non l'appropriatezza epistemologica.
- I meta-predicati sono predicati su predicati che impongono vincoli epistemologici sulle regole decisionali cliniche.
- Il sistema di tipi epistemologici classifica le annotazioni in quattro dimensioni: scopo, dominio di conoscenza, scala e metodo di acquisizione.
- Il framework è istanziato in AnFiSA, una piattaforma open-source per la cura di varianti genetiche.
- Dimostrato utilizzando il dataset Brigham Geno.
- L'approccio si basa sui principi del design-by-contract.
- I meta-predicati specificano quali tipi di evidenza sono ammissibili in una data regola.
Entità
Istituzioni
- EU AI Act
- FDA
- AnFiSA