工具 / cache-savings-estimator

缓存节省估算器

Estimate safe savings from repeated request hashes.

从重复请求哈希估算安全的节省。粘贴请求摘要,即可看到精确、结构化和语义重复率,以及缓存可保守捕获的金额——不对高风险命中过度承诺。

  • 从请求哈希测量精确和结构化重复率
  • 估算保守、经安全调整的缓存节省
  • 识别不应缓存的行

缓存节省

输入会在当前浏览器内处理;不要粘贴真实 API key。

诊断报告

rowCount
2
exactRepeatRate
0.5
structuredRepeatRate
1
semanticRepeatRate
0.3
safeSavings
0.000483
notRecommendedCount
0
创建 API Key

常见问题

缓存节省估算器 常见问题

提示词缓存能省多少?

与重复率成正比。本估算器对可安全缓存的重复请求采用保守折扣,使预测在生产中站得住脚。

需要什么数据?

包含模型、提示词哈希和 token 数的请求摘要。哈希让工具在不看提示词内容的情况下检测重复。

为什么估算偏保守?

并非每个重复都能安全命中缓存。估算器会因新鲜度和语义风险下调节省。

下一步

把报告变成下一次集成决策。

复制 base_url、比较模型详情,或在准备真实兼容性测试时创建 API key。