どんな prompt が安全に cache できますか?
安定していて時刻依存がなく、答えが決まりやすい prompt は cache しやすいです。現在のデータや規制対象コンテンツに依存するものは fresh に保つべきです。
Classify prompts by exact, canonical, and semantic cache risk.
prompt を exact・canonical・semantic な cache リスクで分類し、どの request が安全に cache できるかを判断します。時刻依存、金融、法務、医療の prompt は fresh-only として扱い、cache された応答の信頼性を保ちます。
入力はこのブラウザ内で処理されます。実際の API key は貼り付けないでください。
FAQ
安定していて時刻依存がなく、答えが決まりやすい prompt は cache しやすいです。現在のデータや規制対象コンテンツに依存するものは fresh に保つべきです。
よく似た二つの prompt が本来は違う答えを返すべき確率です。高い semantic リスクは、cache hit が誤答や古い答えを返す危険を意味します。
cache 可能な prompt が分かったら、cache savings estimator で金額インパクトを見積もってください。