L'RL Condizionato dalla Persona Adatta le Spiegazioni dell'IA alle Prospettive degli Esperti

Un nuovo framework è stato sviluppato dai ricercatori per creare output di IA spiegabili che soddisfano i punti di vista unici dei singoli esperti, affrontando il problema che la qualità delle spiegazioni può variare. Questo approccio, noto come spiegazioni condizionate dalla prospettiva, impiega percorsi di ragionamento su grafi di conoscenza nella scoperta di farmaci per illustrare come le preferenze degli esperti si organizzano in distinte prospettive epistemiche. Queste prospettive sono rappresentate da persone agentive, che riflettono come gli esperti valutano le spiegazioni. Ricompense allineate con queste persone guidano la generazione di spiegazioni attraverso l'apprendimento per rinforzo, minimizzando la necessità di una supervisione estesa da parte degli esperti. Studi che coinvolgono utenti esperti mostrano una preferenza per le spiegazioni condizionate dalla prospettiva rispetto a quelle generiche, migliorando la pertinenza e la validità percepite, e raggiungendo o superando i risultati all'avanguardia. Questa ricerca è dettagliata in un articolo disponibile su arXiv (2603.21846v2), che è stato annunciato come sostituto.