I LLM Riproducono Stereotipi Razziali nell'Annotazione del Testo

Uno studio recente pubblicato su arXiv (2603.13891) indica che i modelli linguistici di grandi dimensioni (LLM) riproducono costantemente stereotipi razziali durante l'annotazione automatica del testo. Analizzando 19 LLM in due esperimenti con oltre 4 milioni di valutazioni di annotazione, la ricerca ha rilevato che sottili indicatori di identità influenzavano i risultati. In un esperimento basato sui nomi che coinvolgeva 39 compiti di annotazione, i testi associati a nomi neri sono stati percepiti come più aggressivi da 18 modelli su 19 e più pettegoli dallo stesso numero. Per i nomi asiatici è emerso un effetto 'soffitto di bambù': 17 modelli consideravano gli individui più intelligenti, mentre 18 li valutavano meno sicuri di sé e meno socievoli. I nomi arabi hanno suscitato elevazione cognitiva ma svalutazione interpersonale, con tutti e quattro i gruppi minoritari valutati come meno disciplinati. Inoltre, un esperimento con dialetti abbinati ha rivelato che la stessa frase riceveva giudizi diversi in base al dialetto. Questo studio sottolinea i pericoli dell'impiego degli LLM nella moderazione dei contenuti, nelle assunzioni e nella ricerca accademica, evidenziando la necessità di un controllo approfondito degli strumenti di intelligenza artificiale in contesti sensibili.