Plugin Server Chat Completions LLM Abilita Endpoint Compatibili con OpenAI
Il 30 luglio 2026, Simon Willison ha annunciato il lancio di llm-chat-completions-server 0.1a0, un plugin per il suo strumento LLM che avvia un server localhost sulla porta 9001. Questo server fornisce accesso a tutti i modelli LLM installati tramite un endpoint compatibile con OpenAI Chat Completions. Progettato per testare i nuovi log content-addressable di LLM 0.32rc1, il plugin mira a eliminare la ridondanza negli stati di conversazione per le richieste in stile OpenAI, dove ogni nuovo messaggio si basa sul precedente. Il server consente ai client di monitorare gli stati di conversazione, con richieste che aumentano progressivamente in lunghezza, utilizzando hash dei componenti dei messaggi. In particolare, l'intero plugin è stato creato da GPT-5.6 Sol, dimostrando la sua competenza con l'API OpenAI Chat Completions. Willison ha anche introdotto un'opzione di sponsorizzazione di $10 al mese per un riepilogo email curato degli aggiornamenti significativi di LLM.
Fatti principali
- Plugin denominato llm-chat-completions-server versione 0.1a0 rilasciato.
- Esegue un server localhost sulla porta 9001.
- Espone l'intera collezione di modelli LLM dai plugin installati.
- Utilizza endpoint compatibile con OpenAI Chat Completions.
- Costruito per testare i log content-addressable in LLM 0.32rc1.
- I log content-addressable deduplicano lo stato di conversazione usando hash.
- Il plugin è stato scritto da GPT-5.6 Sol.
- Annunciato da Simon Willison il 30 luglio 2026.
Entità
Artisti
- Simon Willison
Istituzioni
- OpenAI