Jasper: Ricerca Approssimata del Vicino Più Prossimo Accelerata su GPU con Quantizzazione e Aggiornamenti Dinamici

I ricercatori hanno sviluppato Jasper, un sistema di ricerca approssimata del vicino più prossimo (ANNS) nativo per GPU che affronta tre limitazioni chiave degli attuali sistemi ANNS accelerati su GPU: mancanza di aggiornamenti batch efficienti per dataset in evoluzione, assenza di tecniche di quantizzazione per ridurre lo stress sulla larghezza di banda della memoria causato da vettori ad alta dimensionalità, e difficoltà a sovrapporre calcolo e memoria a causa di accessi alla memoria dipendenti dai dati nella ricerca greedy. Jasper consente aggiornamenti batch rapidi senza ricostruire gli indici da zero, introduce una quantizzazione efficiente che riduce il movimento dei dati senza costosi accessi casuali alla memoria, e ottimizza l'esecuzione su GPU per sovrapporre calcolo e memoria. Il sistema è progettato per applicazioni reali di machine learning e information retrieval in cui i dataset evolvono nel tempo. Il lavoro è descritto nell'articolo arXiv 2601.07048.