Ocean4Rec: Profili LLM Offline per il Reranking VOD
Il sistema Ocean4Rec introduce un LLM offline per creare profili di personalità OCEAN per contenuti video-on-demand, consentendo il reranking al momento della richiesta senza necessità di interazioni LLM in tempo reale. Questo metodo categorizza gli elementi in cinque dimensioni—Apertura, Coscienziosità, Estroversione, Gradevolezza e Nevroticismo—utilizzando i metadati, mentre i profili utente vengono sviluppati attraverso un'aggregazione con decadimento temporale dei clic recenti e dei deep link. Quando viene effettuata una richiesta, Ocean4Rec combina i profili precalcolati di elementi e utenti con i punteggi del raccomandatore di base e la recency del catalogo per un reranking numerico. Questo processo semplifica le operazioni eliminando la costruzione ripetuta di prompt e altre attività, migliorando la produttività, gestendo la latenza di coda e garantendo prestazioni affidabili in ambienti ad alta domanda e sensibili alla latenza. La ricerca è disponibile su arXiv con ID 2605.27429.
Fatti principali
- Ocean4Rec utilizza un LLM offline per generare profili OCEAN per elementi VOD.
- Gli elementi vengono valutati su Apertura, Coscienziosità, Estroversione, Gradevolezza, Nevroticismo.
- I profili utente sono costruiti tramite aggregazione con decadimento temporale di clic recenti e deep link.
- Il reranking al momento della richiesta combina profili precalcolati, punteggi di base e recency del catalogo.
- Non vengono effettuate chiamate LLM al momento della richiesta.
- Obiettivo: migliorare produttività, latenza di coda, isolamento della capacità e prevedibilità.
- Pubblicato su arXiv con ID 2605.27429.
- Progettato per servizi VOD ad alto volume e sensibili alla latenza.
Entità
Istituzioni
- arXiv