Documentación

LiteLLM en la documentación de NexoRouter.

LiteLLM

Estado: Configuración candidata, aún no verificada por NexoRouter.

LiteLLM puede enrutar requests compatibles con OpenAI a endpoints personalizados. Úsalo con cuidado porque puede ocultar qué endpoint, modelo o key se usa realmente.

Valores

Base URL: https://api.nexorouter.com/v1
API key: YOUR_NEXOROUTER_API_KEY
Model: deepseek-v4-flash

Verificación

  1. Configura un solo modelo.
  2. Envía un request chat sin streaming.
  3. Revisa logs de LiteLLM y Usage Logs de NexoRouter.
  4. Agrega fallback o routing solo después de probar el camino de un modelo.

Riesgos

  • Doble routing complica depuración.
  • Fallback models pueden ocultar model_not_found.
  • Streaming y tool calling requieren checks separados.

Relacionado

LiteLLM — NexoRouter