Il framework CARE migliora l'accuratezza e la calibrazione del VQA medico
Un nuovo framework chiamato CARE (Confidence-Aware Reasoning) mira a migliorare l'affidabilità dei sistemi di visual question answering (VQA) medico affrontando la miscalibrazione della confidenza nei modelli linguistici multimodali di grandi dimensioni (MLLM). Il framework, descritto in un articolo su arXiv (2608.10964), combina il fine-tuning con rinforzo (RFT) con un pipeline a due fasi. In primo luogo, utilizza la sintesi scalabile Medical-CoT per generare dati strutturati di cold-start per il fine-tuning supervisionato. In secondo luogo, impiega l'ottimizzazione delle politiche relative di gruppo (GRPO) con un nuovo meccanismo di ricompensa sensibile alla confidenza (CAR) che lega la confidenza del modello alla correttezza diagnostica. Su tre benchmark di VQA medico, CARE raggiunge la più alta accuratezza diagnostica e il più basso errore di calibrazione, indicando una diagnostica assistita dall'IA più affidabile. Il lavoro è significativo per le applicazioni cliniche dove stime accurate della confidenza sono cruciali per il processo decisionale.
Fatti principali
- CARE sta per framework di ragionamento medico sensibile alla confidenza.
- Affronta la miscalibrazione della confidenza nei MLLM medici.
- Utilizza un pipeline a due fasi: sintesi Medical-CoT per SFT, poi GRPO con CAR.
- CAR lega la confidenza del modello alla correttezza diagnostica nel segnale di ricompensa.
- Valutato su tre benchmark di VQA medico.
- Raggiunge la più alta accuratezza diagnostica e il più basso errore di calibrazione.
- Articolo disponibile su arXiv con ID 2608.10964.
- Mira a migliorare la fiducia clinica nella diagnostica assistita dall'IA.
Entità
Istituzioni
- arXiv