Benchmark di Empatia Avversaria Testa la Robustezza dell'IA Addestrata con RL

Un recente studio pubblicato su arXiv presenta l'Adversarial Empathy Benchmark (AEB) e l'Emotional Consistency Score (ECS) per valutare la resilienza dei modelli linguistici addestrati con rinforzo da ricompense emotive verificabili (RLVER). Mentre i modelli RLVER mirano a un'interazione empatica, spesso operano presupponendo utenti cooperativi, trascurando dinamiche reali come il gaslighting e la pressione per una validazione incondizionata. L'AEB presenta sei tipi di traiettorie avversarie fondate sulla psicologia, incorporando strutture di ricompensa che scoraggiano risposte formulari. L'ECS valuta distintamente la capacità di un modello di monitorare gli stati emotivi rispetto a migliorarli. Lo studio ha esaminato otto condizioni allineate agli scenari coinvolgendo due modelli RLVER e due modelli base, con variazioni di condizioni think e no-think, rivelando debolezze nei sistemi di IA empatica esistenti e offrendo un metodo per testare la coerenza emotiva in situazioni difficili.