Nuovo Framework di Ottimizzazione Migliora l'Addestramento delle Reti Neurali Informate dalla Fisica

Un nuovo articolo di ricerca presenta un framework di ottimizzazione leggero e consapevole della curvatura, mirato a migliorare il processo di addestramento delle Physics-Informed Neural Networks (PINN). Questo approccio affronta le sfide prevalenti come la lenta convergenza, l'instabilità durante l'addestramento e la ridotta accuratezza, che derivano dalla geometria anisotropa e rapidamente mutevole dei paesaggi di perdita delle PINN. Utilizzando differenze di gradiente consecutive come indicatore economico delle variazioni geometriche locali, il framework integra una correzione predittiva adattiva basata sui dati secanti. Un indicatore di curvatura secante normalizzato al passo regola l'intensità della correzione. Questo metodo plug-and-play efficiente funziona bene con gli ottimizzatori del primo ordine esistenti senza necessitare della formazione esplicita di matrici del secondo ordine. Esperimenti su vari benchmark di equazioni differenziali parziali rivelano miglioramenti significativi nella velocità di convergenza, stabilità e accuratezza rispetto agli ottimizzatori standard e alle baseline solide. L'articolo è disponibile su arXiv con l'identificatore 2604.15392v1 ed è classificato come annuncio incrociato.