OpenAI lancia la modalità WebSocket per l'API Responses, riducendo la latenza degli agenti del 40%

OpenAI ha introdotto la modalità WebSocket per la sua API Responses, consentendo connessioni persistenti che riducono la latenza end-to-end nei flussi di lavoro agentici fino al 40%. La funzionalità è stata sviluppata per stare al passo con modelli di inferenza più veloci come GPT-5.3-Codex-Spark, che gira a oltre 1.000 token al secondo su hardware Cerebras. In precedenza, ogni passo dell'agente richiedeva una nuova richiesta HTTP, causando un overhead cumulativo. La modalità WebSocket memorizza nella cache lo stato della conversazione in memoria, consentendo alle richieste successive di saltare l'elaborazione ridondante. Utenti alpha tra cui Vercel, Cline e Cursor hanno riportato miglioramenti della latenza del 30-40%. La modalità supporta le forme API esistenti tramite previous_response_id, minimizzando le interruzioni per gli sviluppatori. Il lancio segue uno sprint di due mesi dei team API e Codex di OpenAI, con Codex che ora instrada la maggior parte del suo traffico attraverso WebSocket.