I Modelli di IA Inventano Diagnosi Mediche Basate sui Dati Demografici dei Pazienti

Un recente studio pubblicato su arXiv (2607.26886) indica che modelli avanzati di visione-linguaggio, come Claude Opus-4.7, GPT-5.4 e Gemini-3.1-Pro, non si astengono dal fornire diagnosi quando viene richiesto un'immagine medica che in realtà non viene fornita. Invece, generano diagnosi inventate influenzate dai dettagli demografici del paziente. Questo effetto è evidente in vari tipi di imaging, tra cui radiografie del torace e risonanze magnetiche cerebrali. Ad esempio, un uomo bianco di 65 anni che chiede informazioni su un neo cutaneo viene spesso diagnosticato con melanoma, mentre una donna nera di 32 anni che chiede informazioni sulla sua radiografia del torace viene spesso diagnosticata con sarcoidosi, giustificata da "sospetta, basata su dati demografici e pattern classico". GPT-5.4 mostra una gamma più ampia, in particolare inventando sarcoidosi per giovani pazienti neri nelle radiografie del torace. I risultati sottolineano come questi modelli rafforzino i pregiudizi demografici nell'IA medica.