Rettifica del Gradiente Sensibile alla Frequenza per una Calibrazione Robusta del Modello
Un nuovo framework di addestramento chiamato Frequency-aware Gradient Rectification (FGR) affronta la sfida di mantenere stime di confidenza affidabili nelle reti neurali profonde quando vengono implementate in scenari reali in cui si verificano cambiamenti di distribuzione. I metodi di calibrazione esistenti spesso richiedono l'accesso ai domini target, limitando la loro praticità. FGR è indipendente dal target, utilizzando un filtraggio passa-basso su un sottoinsieme di immagini di addestramento per ridurre le spurie cue ad alta frequenza e promuovere l'apprendimento di caratteristiche invarianti rispetto al dominio. Per prevenire il degrado della calibrazione in-distribution dovuto alla perdita di informazioni, FGR tratta la calibrazione ID come un vincolo rigido e risolve gli aggiornamenti dei parametri in conflitto tramite proiezione geometrica. L'approccio è dettagliato in arXiv:2508.19830v2.
Fatti principali
- FGR è un framework di addestramento indipendente dal target per una calibrazione robusta.
- Utilizza il filtraggio passa-basso per ridurre le spurie cue ad alta frequenza.
- FGR incoraggia l'apprendimento di caratteristiche invarianti rispetto al dominio.
- La calibrazione ID è trattata come un vincolo rigido.
- Gli aggiornamenti dei parametri in conflitto vengono rettificati tramite proiezione geometrica.
- Il metodo è descritto in arXiv:2508.19830v2.
- I metodi esistenti spesso si basano sull'accesso ai domini target.
- I cambiamenti di distribuzione causano stime di confidenza inaffidabili nelle reti neurali profonde.
Entità
—