Nuovo quadro FMECA valuta i rischi per la sicurezza dei pazienti nei riepiloghi clinici generati da LLM

Uno studio recente disponibile su arXiv (2605.04085) presenta un innovativo quadro di analisi delle modalità di guasto, dei loro effetti e della criticità (FMECA) progettato per valutare i rischi per la sicurezza dei pazienti associati a testi clinici prodotti da modelli linguistici di grandi dimensioni (LLM). Un panel di esperti composto da otto membri interdisciplinari ha creato una tassonomia delle modalità di guasto attraverso una combinazione di revisione della letteratura e sessioni di brainstorming, modificando le dimensioni tradizionali FMECA—occorrenza, gravità, rilevabilità—in scale ordinali a 5 punti. Questo quadro è stato testato su 36 riepiloghi di dimissione di quattro pazienti, generati dal LLM open GPT-OSS 120B utilizzando dati clinici reali degli Ospedali Universitari di Ginevra. Lo studio mira a colmare il vuoto nelle tecniche strutturate di valutazione del rischio per i contenuti clinici generati da LLM, con l'obiettivo di identificare e affrontare i potenziali rischi prima dell'implementazione in ambienti sanitari.