I LLM Mostrano Pregiudizi Sociodemografici nella Consulenza Educativa

Uno studio su arXiv (2604.25932) rivela che i Large Language Models (LLM) mostrano pregiudizi sociodemografici misurabili quando utilizzati per la consulenza educativa. I ricercatori hanno testato sei LLM su 900 vignette di studenti attraverso 14 identificatori tra cui razza, genere, stato socioeconomico e background immigratorio, generando 243.000 risposte. Tutti i modelli hanno mostrato pregiudizi, in parte allineati con i pregiudizi umani ma divergenti in aspetti chiave. Descrizioni vaghe hanno amplificato le disparità di quasi tre volte, mentre metriche concrete hanno ridotto i pregiudizi. I risultati sottolineano i rischi dell'implementazione dei LLM nell'istruzione senza mitigazioni.