CausalNav: Modelli del Mondo Causali con Certificazione di Affidabilità per il Controllo sotto Variazione dei Parametri Fisici
Un preprint innovativo, catalogato come arXiv 2608.07809, ha presentato CausalNav, un sistema di controllo avanzato che presenta un grafo di transizione firmato e condizionato dall'azione, abbinato a coordinate di stato. Questo strumento è in grado di simulare sequenze di interventi, trasformando errori oggettivi in suggerimenti di policy attuabili. Tuttavia, accetta questi suggerimenti solo se soddisfano criteri specifici: una metrica di affidabilità predittiva indipendente dalla scala, una soglia di margine di policy e un checkpoint di concordanza argmax. Quando questi standard non vengono soddisfatti, CausalNav ricorre al suo controllo convenzionale basato su modello. In test rigorosi contro nove benchmark consolidati utilizzando CartPole-v1 e una versione modificata di Pendulum-v1, CausalNav ha mostrato una certificazione efficace per la governance dell'IA fisica.
Fatti principali
- CausalNav è un controllore che utilizza un grafo di transizione firmato e condizionato dall'azione.
- Simula sequenze di interventi e converte l'errore oggettivo in consigli di logit di policy.
- I consigli vengono accettati solo quando superano tre porte: certificato di affidabilità predittiva, porta del margine di policy, porta di concordanza argmax.
- Ripiego al controllore di base basato su modello quando le porte falliscono.
- Valutato contro nove baseline tra cui transformer, ricorrenti, latenti divisi, grafi, induzione causale e tre recenti moduli di ragionamento basati su modello.
- Testato su CartPole-v1 e Pendulum-v1 discretizzato con variazioni dei parametri fisici.
- Utilizzato un addestratore PPO condiviso e un budget di interazione.
- Numero del preprint: arXiv:2608.07809.
Entità
Istituzioni
- arXiv