Brevi interazioni con chatbot modificano durevolmente i valori morali umani
Un recente studio pubblicato su arXiv (2604.21430) indica che brevi interazioni direttive con chatbot AI possono influenzare significativamente le prospettive morali umane nel tempo. Nella ricerca, cinquantatré partecipanti hanno valutato dilemmi morali e successivamente hanno discusso quattro scenari con un chatbot progettato per alterare i loro giudizi, e quattro con un agente di controllo. Il chatbot ha portato a notevoli cambiamenti nelle opinioni morali – sia più rigorose che più indulgenti – mostrando dimensioni dell'effetto aumentate durante un follow-up di due settimane (d di Cohen fino a 2.069). Non sono stati osservati cambiamenti nel gruppo di controllo e i partecipanti non hanno riconosciuto lo scopo persuasivo del chatbot. Questi risultati implicano che i chatbot AI potrebbero fungere da influencer morali, sollevando importanti considerazioni per l'etica e lo sviluppo dell'IA.
Fatti principali
- Studio pubblicato su arXiv con ID 2604.21430
- 53 partecipanti in un paradigma naturalistico entro i soggetti
- I partecipanti hanno valutato scenari morali e poi hanno avuto conversazioni con chatbot
- Il chatbot sperimentale era programmato per modificare i giudizi morali; l'agente di controllo era neutrale
- Osservati cambiamenti direzionali significativi nei giudizi morali (p < 0.05)
- Dimensioni dell'effetto: d di Cohen = 0.735–1.576 immediatamente, 1.038–2.069 al follow-up di due settimane
- La condizione di controllo non ha prodotto cambiamenti
- I partecipanti non erano consapevoli dell'intento persuasivo; gli effetti non si sono estesi alla punizione
Entità
Istituzioni
- arXiv