Value Router: Ottimizzare le Chiamate LLM con Routing Ponderato per Valore

Un recente studio pubblicato su arXiv (2607.25068) presenta Value Router, una simulazione sintetica progettata per prendere decisioni di routing tra euristiche economicamente vantaggiose e costosi modelli linguistici di grandi dimensioni (LLM) all'interno di un contesto di merchandising al dettaglio. I ricercatori sostengono che il routing basato sulla difficoltà tradizionale non riesce a tenere conto delle dimensioni separate del valore aziendale e della difficoltà. Value Router si basa su valori e difficoltà stimati piuttosto che su dati reali. Nella fase iniziale, un router a soglia ponderata per valore viene valutato rispetto a basi di riferimento basate solo sulla difficoltà e casuali, utilizzando un catalogo sintetico che mostra una relazione inversa tra volume di categoria e valore. L'approccio ponderato per valore raggiunge un richiamo degli articoli di alto valore reale (60%) paragonabile alla baseline basata solo sulla difficoltà, migliorando significativamente la precisione (98,3% rispetto al 94,3%). Inoltre, la ricerca include un registratore di decisioni e un monitor per la resilienza stagionale.