Nuovo studio rivela un sorprendente pregiudizio culturale pro-Giappone nei LLM
Un nuovo studio pubblicato su arXiv rivela che i grandi modelli linguistici (LLM) mostrano un pronunciato pregiudizio culturale verso il Giappone, contrariamente alle precedenti ipotesi di predominanza occidentale o anglocentrica. I ricercatori hanno creato il dataset Culture-Related Open Questions (CROQ), basato su una tassonomia completa, per testare gli LLM su domande culturali. I risultati hanno mostrato una chiara tendenza dei modelli a favorire la cultura giapponese rispetto ad altre. Inoltre, quando interrogati in lingue ad alta disponibilità di risorse come l'inglese, gli LLM hanno prodotto output più diversificati e hanno mostrato una minore inclinazione verso i paesi in cui la lingua di input è ufficiale. Lo studio indaga anche in quale punto dell'addestramento degli LLM emergono questi pregiudizi. Questo lavoro evidenzia preferenze regionali nascoste nei sistemi di IA, sfidando i risultati precedenti sui pregiudizi culturali.
Fatti principali
- Lo studio propone il dataset CROQ basato su una tassonomia completa di domande aperte relative alla cultura.
- Gli LLM mostrano una chiara tendenza verso il Giappone, contrariamente ai precedenti risultati sul pregiudizio occidentale.
- I prompt in lingue ad alta disponibilità di risorse producono output più diversificati e riducono il pregiudizio verso i paesi con lingua ufficiale.
- La ricerca indaga in quale punto dell'addestramento degli LLM compaiono i pregiudizi culturali.
- Lo studio è pubblicato su arXiv con ID 2604.21751.
- Gli LLM erano precedentemente noti per punti di vista occidentali e anglocentrici.
- Nessun lavoro precedente ha evidenziato specificamente le preferenze regionali degli LLM per le domande culturali.
- I risultati sfidano le ipotesi esistenti sui pregiudizi culturali nell'IA.
Entità
Istituzioni
- arXiv
Luoghi
- Japan