Il Pipeline GOEN Supera le Baseline di Rilevamento OOD, CenterLoss Risulta Dannoso
Il pipeline di machine learning recentemente sviluppato, denominato GOEN (Geometry-Optimised Epistemic Network), stabilisce un nuovo punto di riferimento nel rilevamento out-of-distribution (OOD), raggiungendo un impressionante OOD AUROC medio di 0,9483. Questo approccio innovativo integra caratteristiche multiscala, normalizzazione L2, distanza di Mahalanobis e una testa di calibrazione addestrata utilizzando esempi OOD realmente difficili. I ricercatori hanno condotto studi di ablazione sistematici e hanno scoperto che CenterLoss, progettato per migliorare la compattezza delle caratteristiche, inibisce inavvertitamente le prestazioni OOD, causando un calo dell'AUROC a 0,9366, sebbene aumenti l'accuratezza della classificazione. La variante con le migliori prestazioni, GOEN-NoCenterLoss, supera gli ensemble profondi (0,8827), KNN (0,8967) e ODIN (0,8870) sul dataset C, evidenziando la necessità di rappresentazioni delle caratteristiche che affrontino l'incertezza epistemica.
Fatti principali
- GOEN raggiunge un OOD AUROC medio di 0,9483
- CenterLoss riduce l'OOD AUROC da 0,9483 a 0,9366
- GOEN-NoCenterLoss è la variante migliore
- Gli ensemble profondi raggiungono 0,8827 AUROC
- KNN raggiunge 0,8967 AUROC
- ODIN raggiunge 0,8870 AUROC
- Il pipeline include caratteristiche multiscala, normalizzazione L2, distanza di Mahalanobis, testa di calibrazione
- Lo studio è pubblicato su arXiv con ID 2605.21493
Entità
Istituzioni
- arXiv