Estimate monthly LLM API cost across input, output, batch, and cache assumptions.
Calculatorul de cost AI API estimeaza cheltuiala lunara pentru LLM pornind de la volumul de requesturi, media tokenilor de intrare si iesire si pretul pe model, inainte sa trimiti trafic in productie. Tine cont si de prompt caching, discounturi batch si streaming pentru a se apropia de traficul real.
Datele de intrare sunt procesate in acest browser; nu lipi chei API reale.
price_source_should_be_verified, model_not_marked_production
FAQ
Inmulteste tokenii medii de intrare cu pretul de intrare si tokenii medii de iesire cu pretul de iesire per request, apoi cu volumul lunar. Acest calculator face asta pe mai multe modele si adauga ajustari pentru cache si batch.
Da. Prefixele de input repetitive pot fi cache-uite si reduc costul de intrare. Calculatorul aplica un discount conservator de cache pe care il poti ajusta dupa hit rate; verifica-l mai intai cu cacheability checker.
De obicei cauza sunt tokenii de iesire, overheadul de streaming si retry-urile. Exporta factura si ruleaz-o prin AI API bill analyzer ca sa gasesti diferenta.
Instrumente asociate
Pasul următor
Copiază base URL, compară detaliile modelelor sau creează o cheie când ești gata pentru un test real de compatibilitate.