良い fallback model とは何ですか？
同じ重要 capability をカバーし、負荷下でも十分に健全であるモデルです。checker は routing policy に組み込む前にその両方を確認します。
/ tools / jp / llm-routing-health-checker
LLM Routing Health Checker
Check primary and fallback fit from health and capabilities.
モデルの health、成功率、レイテンシ、必要 capability をもとに、primary route または fallback route として適切かを判定します。これにより routing policy が高負荷時に壊れるのではなく、きれいに degrade できます。
- 必要 capability に対して primary / fallback の適合を確認する
- 成功率と p50/p95 レイテンシを評価に取り込む
- 本番投入前に capability gap を見つける
Routing Health
入力はこのブラウザ内で処理されます。実際の API key は貼り付けないでください。
診断レポート
- primaryFit
- true
- fallbackFit
- true
- missingCapabilities
- []
- latencyRange
- [2300,6800]
- successRate
- 0.99
- warnings
- []
FAQ
LLM Routing Health Checker FAQ
model routing はどう信頼性を高めますか？
routing は健全な primary に traffic を送り、成功率やレイテンシが悪化したら fallback に切り替えることで、単一 provider 障害を避けます。
health data がない場合は？
checker は capability 適合を引き続き評価しつつ、live health probe が欠けていることを示すので、その route を fallback-only として扱えます。