Qu'est-ce qui fait un bon modele de fallback ?
Un modele qui couvre les memes capacites critiques et reste assez sain sous charge. Le checker confirme les deux avant que vous l'integriez dans une politique de routage.
/ outils / llm-routing-health-checker
LLM Routing Health Checker
Check primary and fallback fit from health and capabilities.
Verifiez si un modele convient comme route primaire ou fallback a partir de sa sante, de son taux de succes, de sa latence et des capacites requises, afin que votre politique de routage degrade proprement plutot que d'echouer sous charge.
- Tester l'adequation de la route primaire et de la fallback face aux capacites requises
- Prendre en compte le taux de succes et la latence p50/p95
- Detecter les manques de capacites avant qu'ils n'atteignent la production
Routing Health
Les donnees sont traitees dans ce navigateur ; ne collez pas de vraies cles API.
Rapport de diagnostic
- primaryFit
- true
- fallbackFit
- true
- missingCapabilities
- []
- latencyRange
- [2300,6800]
- successRate
- 0.99
- warnings
- []
FAQ
LLM Routing Health Checker FAQ
Comment le routage de modeles ameliore-t-il la fiabilite ?
Le routage envoie le trafic vers une route primaire saine puis le bascule vers une fallback lorsque le taux de succes ou la latence se degradent, ce qui limite les pannes mono-fournisseur.
Que faire si les donnees de sante manquent ?
Le checker evalue toujours l'adequation des capacites et signale qu'une sonde de sante manque, afin que vous puissiez traiter la route comme fallback-only.
Outils lies
Continuer a optimiser les couts
Prochaine etape
Utilisez ce rapport pour decider de la prochaine integration.
Copiez la base URL, comparez les details des modeles ou creez une cle quand vous etes pret a executer un vrai test de compatibilite.