Le Macchine a Guscio Affine del Kernel Riducono i Costi di Codifica delle Query
Le Macchine a Guscio Affine del Kernel (KAHM) introducono uno stimatore analitico economico per sostituire la costosa inferenza neurale nel recupero semantico. Questa tecnica innovativa trasforma le caratteristiche lessicali in uno spazio di embedding semantico fisso calcolando pesi di miscela di prototipi in un RKHS precisamente definito, migliorando al contempo i prototipi attraverso i minimi quadrati normalizzati. In una valutazione basata sul diritto austriaco che ha coinvolto 5.000 query, 84 leggi e 10.762 unità, KAHM ha dimostrato una ricostruzione impressionante dello spazio insegnante, raggiungendo un errore quadratico medio di 0,000091 e un valore R² di 0,90.
Fatti principali
- Le KAHM sostituiscono l'inferenza neurale ripetuta con uno stimatore analitico.
- Il metodo utilizza pesi di miscela di prototipi in un RKHS.
- I prototipi vengono perfezionati tramite minimi quadrati normalizzati.
- Testato su un benchmark di diritto austriaco con 5.000 query.
- Ha raggiunto MSE 0,000091 e R² 0,90.
- Lo studio affronta il problema dell'adattamento delle query con insegnante fisso.
- L'errore di codifica è scomposto in componenti di approssimazione a posteriori, generalizzazione e rumore dell'insegnante.
- L'approccio è progettato per una codifica semantica efficiente dal punto di vista computazionale lato query.
Entità
—