Studio rileva pregiudizi religiosi nei consigli finanziari generati dall'IA in ChatGPT, Gemini e Grok
Un recente studio pubblicato su arXiv indaga il potenziale pregiudizio religioso presente nei consigli finanziari generati da grandi modelli linguistici (LLM), in particolare ChatGPT, Gemini e Grok. I ricercatori hanno condotto 432 conversazioni simulate con 16 distinte identità religiose, affrontando argomenti come investimenti, beni immobili e assicurazioni sulla vita. I loro risultati hanno rivelato che consigli imparziali sono stati forniti solo nel 12-18% dei casi. In particolare, il modello Gemini ha mostrato una maggiore tendenza al pregiudizio rispetto a Grok, mentre le prestazioni di ChatGPT erano paragonabili a quelle di Grok. Lo studio sottolinea l'importanza di valutare e migliorare la neutralità delle indicazioni finanziarie generate dall'IA.
Fatti principali
- Lo studio esamina i pregiudizi religiosi nei consigli finanziari basati su LLM.
- Utilizza 432 interazioni simulate tra consulente e cliente.
- Copre 16 abbinamenti di identità religiose: cristiano, musulmano, indù, non religioso.
- Si concentra su investimenti azionari, acquisto di case e assicurazioni sulla vita.
- Utilizza analisi di regressione e analisi tematica riflessiva.
- Consigli imparziali compaiono solo nel 12-18% dei casi.
- Gemini ha prodotto costantemente più pregiudizi rispetto a Grok.
- Gli output di ChatGPT sono statisticamente paragonabili a quelli di Grok.
Entità
—