Que hace bueno a un modelo de fallback?
Que cubra las mismas capacidades criticas y siga suficientemente sano bajo carga. El checker confirma ambas cosas antes de que lo conectes a una politica de routing.
/ herramientas / llm-routing-health-checker
LLM Routing Health Checker
Check primary and fallback fit from health and capabilities.
Comprueba si un modelo encaja como ruta primaria o fallback a partir de su salud, tasa de exito, latencia y capacidades requeridas, para que tu politica de routing degrade con elegancia y no falle bajo carga.
- Probar el ajuste de la ruta primaria y de fallback frente a las capacidades requeridas
- Incluir tasa de exito y latencia p50/p95 en la evaluacion
- Detectar huecos de capacidad antes de que lleguen a produccion
Routing Health
Las entradas se procesan en este navegador; no pegues API keys reales.
Informe de diagnostico
- primaryFit
- true
- fallbackFit
- true
- missingCapabilities
- []
- latencyRange
- [2300,6800]
- successRate
- 0.99
- warnings
- []
FAQ
LLM Routing Health Checker FAQ
Como mejora la fiabilidad el routing de modelos?
El routing envia trafico a una ruta primaria sana y lo mueve a fallback cuando la tasa de exito o la latencia se degradan, evitando caidas por depender de un solo proveedor.
Que pasa si no hay datos de salud?
El checker sigue evaluando el ajuste de capacidades y marca que falta una sonda de salud en vivo, para que puedas tratar esa ruta como fallback-only.
Herramientas relacionadas
Seguir optimizando costos
Siguiente paso
Usa el informe para decidir la siguiente integracion.
Copia la base URL, compara detalles de modelos o crea una clave cuando estes listo para una prueba real de compatibilidad.