Le pipeline LLM multi-agente non mostrano riduzione dei bias nelle decisioni di triage

Un nuovo studio da arXiv (2608.06949) indaga se distribuire decisioni di allocazione di risorse vitali attraverso una pipeline multi-agente con ruoli differenziati riduca il bias demografico rispetto a un singolo LLM. I ricercatori hanno utilizzato un simulatore sintetico di triage in caso di disastro con casi accoppiati identici tranne che per un attributo demografico, eseguendo 192 episodi (2.304 coppie di casi risolti) su GPT-4o-mini. Hanno confrontato una condizione di controllo con un singolo agente con una pipeline a nove agenti con ruoli di valutazione, allocazione e audit indipendente, sotto tre dimensioni di pressione. I risultati non hanno mostrato differenze misurabili negli esiti distorti: 6,9% per il singolo agente contro 6,1% per la pipeline (p = 0,??). Lo studio mette in discussione l'assunto che l'aggiunta di fasi di audit alle pipeline LLM catturi automaticamente i bias, suggerendo che tali meccanismi potrebbero non essere efficaci in presenza di vincoli di capacità di audit. I risultati hanno implicazioni per la governance dell'IA e la progettazione di sistemi di IA responsabili in domini ad alto rischio.