Pregiudizi nei sistemi di rilevamento di testi generati da macchine

Uno studio recente pubblicato su arXiv (2512.09292v2) esamina i pregiudizi presenti nei sistemi che rilevano testi inglesi generati da macchine. I ricercatori hanno assemblato un set di dati composto da saggi di studenti e hanno valutato 16 sistemi di rilevamento per pregiudizi legati a quattro fattori: genere, razza/etnia, status di apprendente della lingua inglese (ELL) e status economico. Attraverso modelli di regressione e analisi di sottogruppi, hanno scoperto che i pregiudizi variano tra i sistemi, con alcuni modelli che identificano in modo sproporzionato i gruppi svantaggiati come generati da macchine. Questa ricerca sottolinea i possibili effetti negativi dei sistemi di rilevamento, nonostante essi dimostrino prestazioni elevate.