Documentación
FAQ: ¿Por qué no funciona streaming? en la documentación de NexoRouter.
FAQ: ¿Por qué no funciona streaming?
Streaming todavía no está documentado como feature pública estable verificada. Primero demuestra que el mismo request funciona sin streaming.
Flujo de depuración
- Desactiva streaming en el cliente.
- Envía el mismo prompt a
chat/completions. - Revisa Usage Logs.
- Si sin streaming funciona, inspecciona parsing del cliente y buffering del proxy.
- Si sin streaming falla, corrige ese error primero.
Causas comunes
- El proxy hace buffering de chunks.
- El cliente espera otro formato de eventos.
- El modelo o proveedor responde lento.
- La herramienta cambió silenciosamente la forma del endpoint.
Fallback seguro
Usa respuestas sin streaming para primera integración y soporte.