Reti Quadratiche Positive: Geometria, Dinamiche e Bias Implicito

Questa ricerca esamina la geometria quoziente associata alle reti quadratiche positive, caratterizzate da una rappresentazione a basso rango f_U(x) = x^T U U^T x, dove U può essere identificato solo tramite moltiplicazione ortogonale a destra. Lo studio collega lo strato a rango colonna pieno alla varietà PSD di rango r. Per obiettivi lisci L(U) = ℓ(UU^T), il gradiente del fattore euclideo rimane orizzontale, consentendo al flusso del gradiente del fattore di allinearsi perfettamente con il flusso del gradiente riemanniano quoziente. Inoltre, la discesa del gradiente a passi finiti produce una ricorsione di congruenza esatta per il predittore. Nel contesto della regressione quadratica, si mostra che l'Hessiana efficace agli interpolatori è la forma Gram delle misure empiriche limitata allo spazio tangente rispetto alla metrica quoziente. Sotto misure gaussiane di rango uno, viene calcolata la curvatura della popolazione e vengono stabiliti limiti di convergenza uniforme.