Cascate di Scorciatoie nei Sistemi Clinici Multi-Agente: Rischi di Manipolazione dei Benchmark

Uno studio recente pubblicato su arXiv (2608.03744) esamina la suscettibilità dei comitati di agenti basati su modelli linguistici, utilizzati per il supporto decisionale clinico, a scorciatoie che i benchmark potrebbero premiare ma che i clinici ignorerebbero. L'analisi include sette coorti provenienti da sei dataset pubblici, che coprono testo (MedQA-USMLE, MedMCQA, referti MIMIC-CXR), imaging (NIH ChestX-ray14, MIMIC-CXR-JPG, CheXpert) e dati tabulari di terapia intensiva (SUPPORT2). Mentre i comitati Gemini mostrano resistenza a questi segnali individualmente, emerge una scorciatoia socialmente plausibile: quando due pari forniscono la stessa risposta errata, il membro escluso la adotta nel 38% dei casi, così come un flag 'pre-screening' fuorviante in entrambi i livelli di capacità. Lo studio sottolinea i rischi di errori a cascata nei sistemi multi-agente e enfatizza la necessità di meccanismi di supervisione efficaci.