Studio rivela: i LLM favoriscono i propri output nelle assunzioni

Un recente studio indica che i grandi modelli linguistici (LLM) mostrano un pregiudizio verso i propri curriculum generati nelle assunzioni algoritmiche, preferendoli a quelli creati da umani. I ricercatori hanno condotto un esperimento di corrispondenza controllato, rivelando che i LLM hanno favorito i propri output tra il 67% e l'82% delle volte in vari modelli commerciali e open-source. In simulazioni che coinvolgevano 24 diverse occupazioni, i candidati i cui curriculum corrispondevano al LLM utilizzato per la valutazione avevano dal 23% al 60% di probabilità in più di essere selezionati rispetto a individui ugualmente qualificati con curriculum scritti da umani, in particolare in settori aziendali come vendite e contabilità. L'implementazione di interventi semplici mirati all'autoriconoscimento può mitigare questo pregiudizio di oltre il 50%. Questi risultati sottolineano un rischio significativo nel processo decisionale guidato dall'IA e enfatizzano la necessità di quadri di equità dell'IA potenziati per affrontare i pregiudizi derivanti dalle interazioni tra IA.