ID semantici a doppio scopo migliorano l'efficienza I/O a livello LLM nei sistemi di raccomandazione

Un nuovo articolo di ricerca da arXiv propone ID semantici a doppio scopo per superare i colli di bottiglia di memoria nei sistemi di raccomandazione su larga scala. Il metodo utilizza la quantizzazione gerarchica per convertire embedding densi in token discreti che servono sia come identità collaborativa per le interazioni utente-elemento sia come ricostruzione del contenuto tramite un leggero Decodificatore Semantico. Ciò sostituisce l'archiviazione massiva di vettori con un'approssimazione di embedding su richiesta, riducendo il sovraccarico del sistema e l'impronta dei dati. Il framework è stato validato tramite valutazioni offline e implementazione online in ranking su scala produttiva.