I Ricercatori Espongono le Scelte Nascoste degli Sviluppatori nell'Elicitazione Morale dell'IA

Uno studio recente pubblicato su arXiv (2608.14522) indica che l'IA morale partecipativa è intrinsecamente di parte, poiché gli sviluppatori prendono tre decisioni cruciali—definizione delle caratteristiche, campionamento degli elettori e formulazione delle domande—che determinano le preferenze generate attraverso l'elicitazione morale dell'IA. Questa ricerca, che ha coinvolto 809 partecipanti in due fasi e tre contesti (allocazione di reni tramite IA, agenti IA che simulano lavoratori assenti e rappresentazioni di IA generativa di th), mostra che queste scelte spesso nascoste e non documentate possono influenzare notevolmente i risultati. Gli autori affermano che queste decisioni sono normative, non solo tecniche, e sostengono una maggiore trasparenza e responsabilità nello sviluppo di sistemi di IA morale. Le identità dei ricercatori non sono divulgate nel riassunto.