L'iterazione di policy basata su PINN risolve equazioni HJI non convesse
Un nuovo preprint su arXiv, numerato 2507.15455, presenta un metodo innovativo per l'iterazione di policy che combina la classica programmazione dinamica con le reti neurali informate dalla fisica. Questa tecnica affronta complesse equazioni di Hamilton-Jacobi-Isaacs (HJI) ad alta dimensione, importanti nei giochi differenziali stocastici e nel controllo robusto. Il processo alterna la risoluzione di equazioni alle derivate parziali lineari del secondo ordine con politiche di feedback definite e il raffinamento dei controlli tramite strategie minimax mediante differenziazione automatica. I ricercatori dimostrano che, sotto tipiche condizioni di Lipschitz e di ellitticità uniforme, le iterazioni della funzione valore convergono uniformemente a un'unica soluzione di viscosità. I loro risultati mostrano inoltre che le iterazioni mantengono una regolarità equi-Lipschitz, garantendo stabilità senza richiedere convessità dell'hamiltoniana. In aggiunta, test numerici dimostrano l'efficacia del metodo in un gioco di pianificazione del percorso stocastico bidimensionale.
Fatti principali
- Propone un quadro di iterazione di policy senza mesh che combina programmazione dinamica con reti neurali informate dalla fisica.
- Si rivolge a equazioni di Hamilton-Jacobi-Isaacs non convesse e ad alta dimensione.
- Le equazioni emergono nei giochi differenziali stocastici e nel controllo robusto.
- Il metodo alterna la risoluzione di equazioni alle derivate parziali lineari del secondo ordine e l'aggiornamento dei controlli tramite ottimizzazione minimax puntuale.
- La convergenza all'unica soluzione di viscosità è dimostrata sotto ipotesi standard di Lipschitz e di ellitticità uniforme.
- L'analisi stabilisce la regolarità equi-Lipschitz delle iterate.
- Convergenza e stabilità non richiedono la convessità dell'hamiltoniana.
- Esperimenti numerici dimostrano accuratezza e scalabilità, incluso un gioco di pianificazione del percorso stocastico 2D.
Entità
Istituzioni
- arXiv