Studio rileva che gli LLM inducono cambiamenti di decisione dannosi in contesti clinici

Un nuovo studio da arXiv (2608.14630) indaga come i modelli linguistici di grandi dimensioni (LLM) possano amplificare i bias cognitivi nel processo decisionale umano, in particolare in contesti clinici ad alto rischio. I ricercatori hanno sviluppato un quadro teorico decisionale per analizzare il 'disallineamento retorico', una modalità di fallimento in cui gli LLM presentano informazioni in modi retoricamente inappropriati per un dato contesto decisionale, portando a decisioni umane subottimali. Attraverso un esperimento con soggetti umani che utilizzavano scenari realistici di decisione clinica derivati dall'esame di licenza medica degli Stati Uniti, lo studio ha misurato l'impatto delle informazioni generate dagli LLM sulle decisioni. I risultati hanno mostrato che gli LLM hanno indotto un tasso medio del 2,81% di cambiamenti di decisione dannosi, in cui i partecipanti passavano da decisioni corrette a errate a causa dell'output degli LLM. Lo studio evidenzia i potenziali rischi dell'integrazione degli LLM nei processi decisionali, specialmente in campi come la medicina dove gli errori possono avere conseguenze gravi. I risultati sottolineano la necessità di una progettazione e valutazione attenta dei sistemi di intelligenza artificiale per mitigare tali bias e garantire una collaborazione uomo-AI sicura.