Estimate monthly LLM API cost across input, output, batch, and cache assumptions.
Az AI API koltsegkalkulator megbecsuli a havi LLM-koltseget a request volumen, az atlagos bemeneti es kimeneti tokenek, valamint a modellenkenti ar alapjan, meg a produkcios forgalom elott. Figyelembe veszi a prompt cachinget, a batch kedvezmenyeket es a streaminget is, hogy kozelebb legyen a valos forgalomhoz.
A bemenetek ebben a bongeszoben dolgozodnak fel; ne illesszen be valodi API kulcsokat.
price_source_should_be_verified, model_not_marked_production
FAQ
Szorozza meg az atlagos bemeneti tokeneket a bemeneti arral es az atlagos kimeneti tokeneket a kimeneti arral requestenkent, majd a havi volumennel. Ez a kalkulator tobb modellen is elvegzi, es hozzadja a cache- es batch-korrekciokat.
Igen. Az ismetlodo input prefixek cachelhetok, ami csokkenti a bemeneti koltseget. A kalkulator konzervativ cache kedvezmenyt hasznal, amit hit rate alapjan finomithat; ezt erdemes eloszor a cacheability checkerrel ellenorizni.
Altalaban a kimeneti tokenek, a streaming overhead es a retry-k okozzak. Exportalja a szamlat, majd futtassa az AI API bill analyzerben, hogy megtalalja az elterest.
Kapcsolodo eszkozok
Kovetkezo lepes
Masold a base URL-t, hasonlitsd ossze a modelleket, vagy hozz letre kulcsot, amikor keszen allsz egy valodi kompatibilitasi tesztre.