AIエージェントの開発において、長い会話履歴を繰り返し送信することはコストの増大に直結します。本動画では、プロンプトキャッシュの仕組みを解説し、主要な推論プロバイダー（OpenAI、Anthropic、Google、DeepSeekなど）の価格比較を通じて、いかにしてコストを抑えつつ高度なエージェントを構築するかを具体的に示します。

背景

AIエージェントは、会話の文脈を理解するために、過去のやり取り（ツール実行結果やメッセージ）をすべて含めた長いプロンプトをLLMに送信し続ける必要があります。例えば、50kトークンの履歴に1kトークンの新規クエリを加える際、従来は51kトークン分すべての料金が発生していました。会話が長くなるほど、この再処理コストは指数関数的に増加し、特にOpenAIやAnthropicのような高価なプロバイダーでは、1セッションあたりの費用が非常に高額になるリスクがあります。

この動画の要点

1. プロンプトキャッシュの誤解と真実：多くの人が「出力」をキャッシュするものと考えがちですが、実際には「入力」をキャッシュします。同じ入力の接頭辞（Prefix）を再利用することで、LLMは計算を省略でき、ユーザーは大幅な割引価格で利用可能になります。動画ではこの仕組みを視覚的に解説しています。

2. 主要プロバイダーの価格構造：OpenAIのGPT-5.6 SolやAnthropicのClaude Opus 5では、キャッシュヒット時に通常価格の10%（0.1x）程度までコストが下がります。一方で、DeepSeek V4 Proのようにキャッシュヒット時のコストが極めて低い（0.008x）プロバイダーも存在し、選択によって劇的な差が生まれます。

3. キャッシュを無効化しないための設計：システムプロンプトにタイムスタンプや現在の作業ディレクトリ（CWD）などの動的な情報を含めると、入力が毎回変わるためキャッシュが効かなくなります。また、会話の要約（Compaction）を行う際も、入力内容が変化するためキャッシュがリセットされる点に注意が必要です。

なぜ重要か

本動画の核心は、AIエージェントの実用化において「推論コストの最適化」がもはやオプションではなく必須スキルであるという点です。特にDeepSeekのような低価格プロバイダーとプロンプトキャッシュを組み合わせることで、1,000万トークンを超える膨大なやり取りをわずか6セントで実現できるという実例は、開発者にとって衝撃的です。また、Responses APIのように自動でキャッシュを管理するものと、手動設定が必要なChat Completions APIの違いを理解し、エージェントの「ハーネス（基盤）」部分で適切に実装することが、ビジネスとしての持続可能性を左右します。

こんな人におすすめ

AIエージェントやLLMアプリケーションの開発者、コスト管理を担当するプロジェクトマネージャー。プロンプトキャッシュの具体的な実装上の注意点や、主要モデル間のコストパフォーマンスの差を学びたい人に最適です。