Calibrazione del senso di colpa nell'IA dai dati cerebrali umani migliora l'apprendimento multi-agente prosociale
Un nuovo studio pubblicato su arXiv (ID 2608.04663) presenta un metodo per regolare i segnali artificiali di colpa nell'apprendimento per rinforzo multi-agente cooperativo utilizzando dati dal comportamento umano e dalle risposte neurali. Il team ha analizzato le fluttuazioni di felicità dal dataset fMRI di responsabilità SoDec, che ha coinvolto 40 partecipanti, applicando una regressione a effetti fissi per soggetto. Hanno calcolato un peso di colpa confrontando gli esiti negativi del partner e quelli sociali (peso = 1.118, d di Cohen = 0.214). Questo peso è stato poi utilizzato in un framework di Lotteria Sociale a due agenti, addestrando attori Proximal Policy Optimization in varie condizioni: calibrato neuralmente, uniforme, egoista e oracolo. In 1.000 episodi di valutazione, gli agenti calibrati hanno raggiunto tassi di scelta sicura sociale simili a quelli umani (0.459 vs. baseline), suggerendo che i segnali di colpa derivati dall'uomo potrebbero migliorare il comportamento prosociale dell'IA.
Fatti principali
- Il preprint arXiv 2608.04663 propone di calibrare il senso di colpa artificiale dai dati neurali umani
- Utilizza il dataset fMRI di responsabilità SoDec con 40 partecipanti
- Il peso del senso di colpa è stato recuperato come contrasto tra esiti negativi del partner e sociali (1.118, d di Cohen = 0.214)
- Integrato in un ambiente di Lotteria Sociale a due agenti
- Addestrati attori-critici Proximal Policy Optimization indipendenti sotto quattro regimi di modellamento
- Gli agenti calibrati hanno eguagliato più da vicino il tasso di scelta sicura sociale umano (0.459)
- Valutati su 1.000 episodi per condizione
- Affronta la regolazione manuale dei termini di ricompensa sociale nell'apprendimento per rinforzo multi-agente
Entità
Istituzioni
- arXiv