La valutazione del ragionamento morale dell'IA trascura l'applicazione delle norme, secondo uno studio

Un nuovo articolo pubblicato su arXiv, con identificativo 2608.14566v1, mette in discussione i metodi esistenti per valutare le capacità di ragionamento morale dei grandi modelli linguistici (LLM). I ricercatori sostengono che l'attuale attenzione al "problema del valore morale", che valuta quanto gli output siano allineati con le convinzioni umane, oscura il "problema della norma morale", sottolineando la necessità di una comprensione contestuale delle norme morali. Criticano la predominanza di quadri teorici come la Moral Foundations Theory e gli stadi di Kohlberg, evidenziandone i limiti. Lo studio identifica tre carenze significative, tra cui dati inadeguati per le norme morali e una mancata valutazione approfondita delle metodologie di ragionamento.