Yak otsinyty vartist AI API pered zapuskom?
Pomnozhte seredniu kilkist vkhidnykh tokeniv na tsinu vkhodu, a seredniu kilkist vykhidnykh tokeniv na tsinu vykhodu za request, pislia choho pomnozhte na misiatsnyi obsiag. Tse rakhuyetsia dlia kilkokh modelei z urakhuvanniam cache ta batch-popravok.