I LLM Mostrano un Divario tra Giudizio e Conseguenze nel Ragionamento Morale in Sanità

Un recente articolo di ricerca su arXiv (2608.05583) indaga come i modelli linguistici di grandi dimensioni (LLM) valutano la responsabilità morale in ambito sanitario, in particolare per quanto riguarda la distribuzione di risorse mediche limitate. Questo studio, pubblicato in cross-post, esplora se le valutazioni degli LLM siano allineate con le prospettive umane sulla responsabilità del paziente per azioni dannose per la salute e se queste valutazioni influenzino la distribuzione delle risorse. La ricerca analizza vari LLM di diverse famiglie e capacità utilizzando scenari clinici derivati da studi precedenti. Una scoperta significativa è il 'divario tra giudizio e conseguenze': mentre gli LLM generalmente concordano con gli esseri umani sulla responsabilità del paziente, tendono a ignorare questo giudizio quando allocano le risorse, optando per una distribuzione casuale invece di favorire i pazienti meno responsabili. Questo divario rappresenta una sfida sostanziale per l'implementazione degli LLM in aree critiche come la sanità, dove il ragionamento morale dovrebbe riflettere i valori umani. I risultati sottolineano la necessità di riconciliare i giudizi morali con le azioni conseguenti nei sistemi di intelligenza artificiale per il processo decisionale medico.