Simulazione delle velocità dei token LLM da 5 a 800 al secondo
Simon Willison ha condiviso un link a un'app HTML di Mike Veerman che visualizza le velocità di output dei token LLM, da 5 a 800 token al secondo. Lo strumento aiuta gli utenti a comprendere l'effetto reale delle velocità pubblicizzate, come 30 token/secondo. Willison ha pubblicato il link il 20 maggio 2026 e il codice sorgente dell'app è disponibile. Offre anche un digest email sponsorizzato a $10/mese sugli sviluppi mensili dei LLM.
Fatti principali
- Simon Willison ha pubblicato un link a un'app HTML di Mike Veerman.
- L'app simula le velocità di output dei token LLM da 5 a 800 token al secondo.
- Lo strumento aiuta gli utenti a visualizzare l'aspetto di velocità come 30 token/secondo.
- Il codice sorgente dell'app è disponibile.
- Willison ha pubblicato il 20 maggio 2026.
- Willison offre un digest email sponsorizzato a $10/mese sugli sviluppi mensili dei LLM.
Entità
—