SilverTorch di Meta unifica il recupero delle raccomandazioni in un'unica rete neurale

Meta ha presentato SilverTorch, un nuovo sistema di raccomandazione che sostituisce il tradizionale recupero basato su microservizi con un'architettura neurale unificata chiamata Index as Model. Il sistema consolida tutti i componenti di recupero—ricerca approssimata del vicino più prossimo, filtraggio di idoneità, riordinamento neurale e scoring multi-task—in un unico modello PyTorch. In una valutazione su 80 milioni di elementi, SilverTorch ha raggiunto una produttività 23,7× superiore e un'efficienza dei costi di calcolo 20,9× migliore rispetto ai basati su CPU, migliorando anche la qualità delle raccomandazioni. L'articolo di ricerca è stato accettato come full paper a SIGIR 2026. SilverTorch è già implementato nelle app della famiglia Meta, tra cui Facebook, Instagram e Threads, ed è progettato per integrare modelli linguistici di grandi dimensioni come moduli aggiuntivi. Il sistema utilizza aggiornamenti in streaming per la freschezza dell'indice, consentendo ai post dello stesso giorno di costituire una parte significativa delle raccomandazioni. Le innovazioni tecniche chiave includono un kernel di ricerca ANN Int8 fuso e un filtro Bloom index, entrambi reimplementati in puro PyTorch per sfruttare il parallelismo della GPU.