O que faz um bom modelo de fallback?
Um modelo que cobre as mesmas capacidades criticas e continua suficientemente saudavel sob carga. O checker confirma ambos os pontos antes de o ligar a uma politica de routing.
/ ferramentas / pt / llm-routing-health-checker
LLM Routing Health Checker
Check primary and fallback fit from health and capabilities.
Verifique se um modelo encaixa como rota primaria ou fallback a partir da sua saude, taxa de sucesso, latencia e capacidades requeridas, para que a sua politica de routing degrade de forma elegante e nao falhe sob carga.
- Testar o ajuste da rota primaria e de fallback face as capacidades exigidas
- Incluir taxa de sucesso e latencia p50/p95 na avaliacao
- Detetar lacunas de capacidade antes de chegarem a producao
Routing Health
As entradas sao processadas neste navegador; nao cole chaves API reais.
Relatorio de diagnostico
- primaryFit
- true
- fallbackFit
- true
- missingCapabilities
- []
- latencyRange
- [2300,6800]
- successRate
- 0.99
- warnings
- []
FAQ
LLM Routing Health Checker FAQ
Como o routing de modelos melhora a fiabilidade?
O routing envia trafego para uma rota primaria saudavel e move-o para fallback quando a taxa de sucesso ou a latencia pioram, evitando falhas por depender de um unico fornecedor.
E se nao existirem dados de saude?
O checker continua a avaliar o ajuste de capacidades e assinala que falta uma sonda de saude em tempo real, para que possa tratar essa rota como fallback-only.
Ferramentas relacionadas
Continuar a otimizar custos
Passo seguinte
Use o relatorio para decidir a proxima integracao.
Copie a base URL, compare detalhes dos modelos ou crie uma chave quando estiver pronto para um teste real de compatibilidade.