La teoria metanormativa informa la progettazione di agenti morali basati su RL

Un nuovo articolo su arXiv esplora come la teoria metanormativa possa informare la progettazione di agenti artificiali morali e allineati ai valori utilizzando l'apprendimento per rinforzo (RL). L'articolo affronta la tendenza crescente nell'etica delle macchine e nell'allineamento dei valori a utilizzare il RL, che ha messo in secondo piano la letteratura filosofica. Gli autori mirano a attingere alla recente teoria metanormativa per fornire criteri più chiari per classificare il comportamento degli agenti RL come morale e per valutare e confrontare gli approcci basati su RL. L'articolo è classificato sotto Informatica > Intelligenza Artificiale ed è stato presentato su arXiv con l'identificatore 2608.08220. Discute la sovrapposizione tra etica delle macchine e allineamento dei valori, concentrandosi sulla progettazione di agenti che si allineano ai valori umani e agiscono eticamente. I due obiettivi principali dell'articolo sono estrarre idee utili dalla teoria metanormativa ed esaminare l'architettura RL attraverso quella lente. La presentazione include riferimenti, citazioni e strumenti, e fa parte del framework arXivLabs, che supporta collaborazioni comunitarie. L'articolo sottolinea l'importanza delle intuizioni filosofiche nello sviluppo dell'IA etica, contrastando la tendenza attuale che privilegia i metodi tecnici rispetto alle fondamenta filosofiche.