セマンティックキャッシュ(SCA)

完全一致の文字列照合ではなく埋め込みの類似度をキーとしてLLMやエージェントの応答をキャッシュし、意味的に等価なクエリが保存済みの回答を再利用できるようにする。類似度のしきい値でヒットを判定し、鮮度のTTLで陳腐化を抑え、無効化ポリシーでソースデータの変更時にエントリを破棄する。これにより大量トラフィックでのコストとレイテンシを削減でき、プロンプト接頭辞キャッシュやKVキャッシュとは区別される。