LLM Chat AI mostra pregiudizi impliciti verso persone con disabilità intellettive
Un nuovo studio di arXiv (2607.26062) indaga i pregiudizi impliciti nei sistemi di chat AI basati su Large Language Model (LLM) verso persone con disabilità intellettive (ID). Utilizzando GPT-4-Turbo, i ricercatori hanno generato 25.000 storie da 10 prompt iniziali con e senza descrittori di ID. Il processo è stato ripetuto con OpenAI GPT-4o, Meta Llama-3-3-70B-Instruct, Anthropic Claude-3-5-Sonnet e Mistral-Large-2411. Un'istanza separata di GPT-4-Turbo ha analizzato le storie per differenze rappresentazionali legate a temi di pregiudizio tratti dalla letteratura precedente. I risultati mostrano chiare differenze nel modo in cui le persone con ID vengono rappresentate, indicando pregiudizi intrinseci nella generazione di chat AI. Lo studio sottolinea la necessità di mitigare i pregiudizi nei sistemi di IA.
Fatti principali
- Lo studio indaga i pregiudizi impliciti nei sistemi di chat AI basati su LLM verso persone con disabilità intellettive.
- Ha utilizzato GPT-4-Turbo per generare storie da 10 prompt iniziali con e senza descrittori di ID.
- Ripetuto con OpenAI GPT-4o, Meta Llama-3-3-70B-Instruct, Anthropic Claude-3-5-Sonnet e Mistral-Large-2411.
- 25.000 storie generate al computer sono state analizzate da un'istanza separata di GPT-4-Turbo.
- L'analisi si è concentrata sulle differenze rappresentazionali legate a temi di pregiudizio tratti dalla letteratura precedente.
- I risultati rivelano differenze nella rappresentazione delle persone con ID.
- Indica pregiudizi impliciti intrinseci nelle tecnologie di generazione di chat AI.
- Studio pubblicato su arXiv con ID 2607.26062.
Entità
Istituzioni
- OpenAI
- Meta
- Anthropic
- Mistral