ER-KAN: Reti Kolmogorov-Arnold Robuste per il Machine Learning Scientifico con Dati Rumorosi e Scarsi

Una recente pubblicazione su arXiv (2608.14773) presenta ER-KAN, un adattamento robusto ed efficiente delle Reti Kolmogorov-Arnold (KAN) mirato al machine learning scientifico, in particolare in scenari che coinvolgono dataset rumorosi e limitati. Lo studio evidenzia che molti modelli KAN efficienti attuali, come i tipi Chebyshev, wavelet e a funzione a base radiale, sono stati principalmente valutati utilizzando dati puliti, oscurando le loro differenze di prestazioni in condizioni di rumore. Quando sottoposti a rumore sigma=0.1, l'errore quadratico medio (MSE) del test di ChebyKAN aumenta di 10.6 volte rispetto ai dati puliti, mentre il KAN vanilla subisce un aumento di 7.9 volte, un MLP standard mostra un aumento di 1.7 volte, e ER-KAN aumenta solo di 1.4 volte. ER-KAN impiega tre strategie chiave: basi gaussiane condivise a funzione a base radiale (RBF) per una parametrizzazione efficiente, iniezione di rumore curriculare durante l'addestramento per una maggiore resilienza al rumore, e regolarizzazione adattiva pesata per entropia per mitigare l'overfitting con campioni di piccole dimensioni (N). Ciò risulta in una rete con 595 parametri che raggiunge l'accuratezza di un MLP anche in condizioni di rumore moderato, rendendolo uno strumento prezioso per i campi scientifici in cui i dati sono spesso limitati e rumorosi. L'articolo completo è disponibile su arXiv con l'identificatore 2608.14773.