Prima valutazione sistematica del supporto XAI da apprendimento per rinforzo gerarchico in Overcooked-AI

Una recente indagine pubblicata su arXiv (2608.06381) segna la prima valutazione completa del supporto dell'IA spiegabile (XAI) derivato da una politica appresa naturalmente spiegabile in un benchmark riconosciuto. Utilizzando il framework Hierarchical Ad Hoc Agents (HA^2) in Overcooked-AI, il team ha prodotto spiegazioni in tempo reale basate su scelte di sotto-attività gerarchiche, trasmesse tramite testo o audio utilizzando un meccanismo innovativo basato su trigger. In uno studio che ha coinvolto 38 partecipanti, non sono state osservate differenze di prestazioni notevoli; tuttavia, coloro che hanno ricevuto spiegazioni hanno mostrato tendenze a miglioramenti più rapidi delle prestazioni. È interessante notare che le spiegazioni audio hanno portato a una significativa diminuzione del legame di alleanza di lavoro con l'agente, un fenomeno non osservato con il testo, indicando che le spiegazioni verbali possono aumentare il carico cognitivo o influenzare le dinamiche sociali, potenzialmente ostacolando la collaborazione. Questa ricerca affronta le carenze dei precedenti studi XAI che dipendevano da politiche create manualmente in ambienti su misura, che limitavano la loro applicabilità alla ricerca avanzata sul teaming. I risultati sottolineano l'importanza della modalità nella comunicazione XAI e la necessità di un'esplorazione più approfondita di come diversi formati di spiegazione influenzano le interazioni uomo-agente.