I Riassunti dei CV degli LLM Mostrano Pregiudizi Basati sul Nome nella Valutazione

Una recente indagine pubblicata su arXiv indica che i modelli linguistici di grandi dimensioni (LLM) mostrano un pregiudizio condizionato dal nome nella generazione di riassunti di curriculum per il reclutamento, nonostante le informazioni fattuali siano coerenti. Lo studio ha esaminato quasi un milione di riassunti generati da quattro modelli, applicando perturbazioni sistematiche dei nomi legati a razza e genere, utilizzando sia curriculum sintetici che annunci di lavoro reali. I ricercatori hanno scoperto che il linguaggio valutativo cambia sottilmente con nomi diversi, in particolare agli estremi della distribuzione, con i modelli open-source che mostrano variazioni significative. Questo pregiudizio può portare a un danno direzionale che si manifesta come instabilità simmetrica, che può eludere le valutazioni tradizionali di equità, sottolineando un potenziale di pregiudizio di automazione da LLM a LLM nel processo di assunzione.