Prezzi dei LLM e allocazione predefinita del ragionamento nel gioco di Stackelberg

Un articolo su arXiv (2608.13315) esplora l'economia dei servizi di modelli linguistici di grandi dimensioni (LLM), esaminando in particolare come i fornitori determinano i prezzi per token e la distribuzione predefinita dei token di ragionamento. Gli autori inquadrano l'interazione tra fornitore e utente come un gioco di Stackelberg, in cui gli utenti possono accettare l'allocazione standard, modificarla o abbandonare il servizio. Sebbene allocazioni di ragionamento più ampie migliorino l'accuratezza, comportano anche costi e latenza maggiori. L'articolo presenta una soluzione in forma chiusa per l'allocazione personalizzata ottimale dell'utente e indica che i default accettabili formano o un insieme vuoto o un intervallo compatto per qualsiasi prezzo. Il default ottimale del fornitore è caratterizzato da una regola a tre regimi, semplificando il calcolo dell'equilibrio a un'ottimizzazione unidimensionale del prezzo e stabilendo l'esistenza dell'equilibrio. I default influenzano l'allocazione del ragionamento solo quando gli utenti preferiscono la comodità delle impostazioni predefinite; altrimenti, tutti i risultati del servizio coincidono con la scelta ottimale dell'utente. Sebbene si faccia riferimento a esperimenti con due modelli compatti, i dettagli sono limitati. I risultati offrono preziose intuizioni per progettare strategicamente servizi LLM al fine di ottimizzare i ricavi del fornitore soddisfacendo al contempo le esigenze degli utenti.