La predizione selettiva mitiga il bias di automazione nell'IA clinica ma aumenta i falsi negativi

Un nuovo studio da arXiv (2508.07617) indaga l'impatto della predizione selettiva sul processo decisionale umano in contesti clinici. La ricerca, che ha coinvolto 259 clinici nella diagnosi e nel trattamento di pazienti ospedalizzati, ha confrontato le prestazioni di base senza assistenza dell'IA con l'accuratezza assistita dall'IA con e senza predizione selettiva. La predizione selettiva, un metodo in cui le previsioni del modello inaffidabili vengono nascoste agli utenti, ha ridotto gli effetti negativi del bias di automazione—la tendenza degli esseri umani a fare eccessivo affidamento sulle previsioni dell'IA. Tuttavia, lo studio ha anche rivelato che mentre la predizione selettiva mitigava il bias di automazione, aumentava il tasso di falsi negativi. I risultati mettono in discussione l'assunto che quando l'IA si astiene e informa l'utente, gli esseri umani prendono decisioni come farebbero senza il coinvolgimento dell'IA. Lo studio suggerisce che la predizione selettiva può essere uno strumento prezioso nel processo decisionale assistito dall'IA, ma i suoi compromessi devono essere attentamente considerati. La ricerca è stata annunciata come un replace-cross su arXiv, indicando una revisione. Le implicazioni dello studio si estendono al campo più ampio dell'interazione uomo-IA, in particolare in ambienti ad alto rischio come l'assistenza sanitaria.