Il feedback dell'IA negli scacchi rivela un bias di autoselezione e l'ampliamento dei divari di abilità

Uno studio che analizza oltre cinque anni di dati di 52.000 utenti su una piattaforma di scacchi online rivela che gli individui che scelgono di cercare feedback dall'IA sono tipicamente più motivati e possiedono abilità iniziali più elevate. Questi utenti dimostrano anche un coinvolgimento più produttivo con la tecnologia. Questa autoselezione crea un'illusione di efficacia dell'IA, poiché i presunti guadagni nell'apprendimento svaniscono quando si tiene conto della motivazione endogena. La ricerca, documentata nella preprint arXiv 2409.18660v2, indaga come questa scelta endogena modelli sia l'apprendimento individuale che gli esiti collettivi. Il meccanismo di selezione porta a conseguenze significative a livello di popolazione, avvantaggiando in modo sproporzionato individui già motivati e con abilità superiori. Di conseguenza, l'accesso diffuso all'IA potrebbe esacerbare le disparità di abilità esistenti piuttosto che democratizzare le opportunità di apprendimento. I risultati mettono in discussione le ipotesi sui benefici educativi neutrali dell'IA, evidenziando i costi nascosti nei sistemi di feedback.