Audit degli algoritmi rivela che la reputazione domina le raccomandazioni mediche basate sull'IA

Una recente indagine pubblicata su arXiv (2608.14399) esplora il ruolo dei grandi modelli linguistici (LLM) nel guidare le raccomandazioni dei medici, caratterizzando questi sistemi come 'infomediari IA' che influenzano sottilmente le decisioni dei pazienti. Lo studio ha condotto un audit randomizzato pre-specificato coinvolgendo sette modelli—sei a pesi aperti e gpt-4o-mini—attraverso 3.024 set di scelta, tre personaggi paziente, nove prompt parafrasati e nove condizioni sperimentali, risultando in 40.068 risposte valutate. Utilizzando profili sintetici di medici di medicina generale con attributi assegnati casualmente, la ricerca ha rivelato che i segnali di reputazione sono fondamentali: aumentare una valutazione da 3,9 a 4,7 aumenta la probabilità di scelta di 31,4 punti percentuali, mentre aumentare la tariffa da $90 a $190 la diminuisce di 20,0 punti percentuali. Lo studio ha anche esaminato i segnali demografici tramite i nomi, ma l'abstract non divulga tali risultati. Questi risultati sottolineano l'impatto significativo di valutazioni e tariffe sulle raccomandazioni algoritmiche, sollevando questioni di equità e accessibilità nell'assistenza sanitaria. Lo studio completo è disponibile su https://arxiv.org/abs/2608.14399.