Quadro per la fiducia misurabile nell'IA clinica
Viene proposto un nuovo quadro per un'IA clinica affidabile, che enfatizza evidenza, supervisione e autonomia graduale rispetto alla fiducia basata su scatole nere. L'approccio combina un nucleo deterministico, un assistente AI specifico per il paziente, un'escalation a più livelli del modello e la supervisione umana. La fiducia dipende dalla verifica selettiva dei risultati critici, dal contesto limitato e da un'architettura disciplinata dei prompt.
Fatti principali
- La fiducia nell'IA clinica deve essere progettata come una proprietà misurabile del sistema.
- Quadro basato su evidenza, supervisione e autonomia graduale.
- Combina nucleo deterministico, assistente AI specifico per il paziente, escalation a più livelli e supervisione umana.
- La fiducia dipende dalla verifica selettiva dei risultati clinicamente critici.
- Il contesto clinico limitato e un'architettura disciplinata dei prompt sono essenziali.
- L'approccio proposto evita di sostituire la logica clinica deterministica con modelli a scatola nera.
- Il livello di supervisione umana gestisce verifica, escalation e controllo del rischio.
- Quadro pubblicato su arXiv (2604.26671).
Entità
Istituzioni
- arXiv