Studio avverte che i LLM non sono sicuri per il supporto decisionale clinico autonomo

Uno studio recente pubblicato su arXiv (2607.28677) afferma che i modelli linguistici di grandi dimensioni (LLM) non sono sufficientemente sicuri per il processo decisionale clinico indipendente, soprattutto quando si tratta di triage dei pazienti senza supervisione clinica. Sebbene gli autori riconoscano che gli LLM possono superare gli esami di abilitazione medica e dimostrare un ragionamento diagnostico paragonabile a quello dei medici in scenari controllati, la loro attenzione si concentra sulla questione critica del triage autonomo per i pazienti che si presentano spontaneamente. Sostengono che attualmente non esistono prove a sostegno della sicurezza degli LLM per questo scopo. La preoccupazione principale non risiede nelle lacune nella conoscenza medica, ma nell'affidabilità delle valutazioni cliniche, poiché questi modelli non sono progettati per dare priorità a diagnosi rare ma critiche. Gli autori sottolineano che un triage efficace comporta un processo decisionale complesso, in cui la mancata diagnosi critica può avere conseguenze gravi. Questo articolo di prospettiva evidenzia che la capacità degli LLM di superare gli esami non equivale a garantire la sicurezza in ambienti clinici reali, esortando alla cautela nella loro applicazione in situazioni ad alto rischio.