Documentación
LiteLLM en la documentación de NexoRouter.
LiteLLM
Estado: Configuración candidata, aún no verificada por NexoRouter.
LiteLLM puede enrutar requests compatibles con OpenAI a endpoints personalizados. Úsalo con cuidado porque puede ocultar qué endpoint, modelo o key se usa realmente.
Valores
Base URL: https://api.nexorouter.com/v1
API key: YOUR_NEXOROUTER_API_KEY
Model: deepseek-v4-flash
Verificación
- Configura un solo modelo.
- Envía un request chat sin streaming.
- Revisa logs de LiteLLM y Usage Logs de NexoRouter.
- Agrega fallback o routing solo después de probar el camino de un modelo.
Riesgos
- Doble routing complica depuración.
- Fallback models pueden ocultar
model_not_found. - Streaming y tool calling requieren checks separados.