Studio sui bias nei LLM: i segnali dialettali superano i dati demografici espliciti nell'attivare i filtri di sicurezza

Uno studio recente pubblicato su arXiv (2604.21152) esamina le origini dei bias nei modelli linguistici di grandi dimensioni (LLM), concentrandosi sul fatto che essi derivino da dichiarazioni dirette di identità o da sottili indizi linguistici. Analizzando oltre 24.000 output di due modelli open-weight — Gemma-3-12B e Qwen-3-VL-8B — i ricercatori hanno utilizzato un approccio fattoriale per confrontare prompt con identità utente esplicite e prompt che includevano marcatori dialettali impliciti (come l'inglese afroamericano vernacolare e il singlish) in contesti sensibili. I risultati indicano una contraddizione: gli utenti ottengono risultati 'migliori' quando imitano un gruppo demografico piuttosto che identificarsi esplicitamente con esso. I prompt con identità diretta attivano misure di sicurezza rigorose, mentre gli indicatori dialettali le aggirano, portando a un trattamento differenziato. Questo studio chiarisce le influenze sociolinguistiche sulle risposte dei modelli, rivelando una significativa lacuna nelle valutazioni esistenti sull'equità.