VaLiDRec: Identificatori Semantici a Lunghezza Variabile Allineati con LLM per Raccomandazione Generativa
VaLiDRec, un innovativo framework di raccomandazione generativa, introduce l'uso di identificatori semantici (SID) a lunghezza variabile direttamente allineati con i vocabolari di LLM pre-addestrati, eliminando la necessità di clustering e quantizzazione a lunghezza fissa. Questo approccio genera SID da token nativi LLM attraverso metodi come la stima dell'importanza dei token, il pruning basato sulla consapevolezza della qualità semantica e il raffinamento consapevole delle collisioni, adattando la lunghezza dell'identificatore in base alla complessità degli elementi. La modellazione delle preferenze utente utilizza soft prompt consapevoli del grafo e ridefinisce le raccomandazioni come previsioni di set di token con punteggio a livello di token, eliminando così la necessità di decodifica autoregressiva e beam search. Esperimenti condotti su quattro dataset reali ne convalidano l'efficacia.
Fatti principali
- VaLiDRec utilizza identificatori semantici a lunghezza variabile allineati con LLM per la raccomandazione generativa.
- Gli SID sono costruiti da token nativi del vocabolario LLM tramite stima dell'importanza dei token, pruning e raffinamento.
- Le lunghezze degli identificatori si adattano alla complessità semantica degli elementi.
- Le preferenze utente sono modellate con soft prompt consapevoli del grafo.
- La raccomandazione è riformulata come previsione di set di token con punteggio a livello di token.
- La generazione autoregressiva di SID e il beam search sono eliminati.
- Gli esperimenti sono stati condotti su quattro dataset reali.
- L'approccio affronta i problemi di overcompressione e disallineamento degli SID a lunghezza fissa.
Entità
Istituzioni
- arXiv