I robot imparano a rilevare e correggere il disallineamento delle ricompense tramite spiegazioni mirate

Un nuovo framework consente ai robot di identificare caratteristiche sottospecificate nell'apprendimento delle ricompense da dimostrazioni e di richiedere attivamente dimostrazioni correttive. Il metodo rileva le caratteristiche che variano ampiamente tra le dimostrazioni come sottospecificate, quindi sollecita spiegazioni mirate per recuperare ricompense disallineate. Ciò affronta le imperfezioni comuni nelle dimostrazioni umane, come caratteristiche sottovalutate a causa del carico cognitivo o della difficoltà fisica. L'approccio sfrutta segnali statistici dalla variabilità delle dimostrazioni per individuare l'ambiguità, migliorando l'allineamento in fase di implementazione. L'articolo è disponibile su arXiv con riferimento 2605.22986.