ProtoMedAgent: IA clinica con interpretabilità attenta alla privacy

I ricercatori hanno presentato ProtoMedAgent, un nuovo framework progettato per la refertazione clinica multimodale che integra reti di prototipi interpretabili con grandi modelli linguistici, mitigando efficacemente allucinazioni e perdita di dati. Questo sistema utilizza un backbone di prototipi fissi per convertire le caratteristiche visive e tabulari latenti in una memoria semantica distinta. Il processo di generazione online è regolato da differenziali insiemistici precisi e da un ciclo riflessivo Scribe-Critic, che elimina matematicamente le affermazioni narrative non supportate. Inoltre, un metodo unico di crittografia della memoria semantica limita l'esposizione dei dati. Questo studio affronta la sifofania da recupero, in cui i tipici sistemi RAG generano giustificazioni post-hoc che si allineano con le previsioni visive. ProtoMedAgent ridefinisce la refertazione clinica come un'ottimizzazione iterativa a gradiente zero durante il test attraverso uno stringente collo di bottiglia neuro-simbolico.