最新ゆうちょの新投信、12月1日から 金含む5資産に分散、ネット購入手数料は無料
新着NVIDIA「Nemotron for Science」公開
速報AI・テクノロジーAmazon(AWS)

Bedrockのオープンウェイトモデルで明示的キャッシュが利用可能に 入力コスト削減

Amazon 公式発表公開 読了 6分

Bedrockのオープンウェイトモデルが明示的なプロンプトキャッシュに対応し、再利用する部分を自分で指定できる

  • 明示的モードはprompt_cache_optionsと、区切り位置を示すprompt_cache_breakpointの両方を指定する
  • 毎回変わる質問が続く用途では、共通部分だけを書き込む明示的モードで不要な書き込み料金を避けられる

暗黙的と明示的、2つのモードの違い

比べること 暗黙的キャッシュ 明示的キャッシュ 向いているのは
リクエストの変更 なし モード指定と区切りの印が必要 暗黙的は手間が少ない
保存される範囲 対象の先頭部分を自動で選ぶ(できる範囲で) 各区切りまでの内容 明示的は範囲を指定できる
向く用途 会話、エージェントのくり返し処理 固定の共通部分と変わる質問、層になった共通部分 用途で選ぶ

すぐにできること

  1. 使うモデルのモデルカードで、対応するキャッシュのモード、最低限の長さ、TTLを確認する
  2. 自社のプロンプトを見直し、固定の指示文を先頭に、変わる質問を最後に置く
  3. 応答のusage.prompt_tokens_detailsのcached_tokensを見て、キャッシュの当たり方を測る
Bedrockのオープンウェイトモデルで明示的キャッシュが利用可能に 入力コスト削減

写真はイメージです。写真: Dsv / Wikimedia Commons(Public Domain)

要約版:専門用語を控えて説明しています

キャッシュの仕組み

AIアプリは、同じ指示文やマニュアルを毎回送ることがよくあります。プロンプトキャッシュは、この同じ部分を覚えておき、次からは読み直さずに使う仕組みです。

キャッシュから読み取った分は、通常の入力より低い料金で請求されます。ただし書き込みの料金は、モデルによっては通常より高くなります。

2つのモード

暗黙的キャッシュは、設定なしで自動的に働きます。会話や、同じ手順をくり返すエージェントに向いています。

明示的キャッシュは、「ここまでを覚える」という区切りを自分で付けます。共通の部分は固定で、質問だけが毎回変わるアプリに向いています。

明示的モードでは、モードの指定と区切りの印の両方が必要です。どちらか片方だけでは、期待どおりに動きません。

使う前に確認すること

対応するモード、最低限必要な長さ、保持時間はモデルごとに違います。使うモデルのモデルカードで確認してください。

Bedrockのオープンウェイトモデルを使う開発者は、これまでの暗黙的キャッシュに加えて、明示的なプロンプトキャッシュを選べるようになりました。Amazon Bedrockを使っていない人や、キャッシュを使わない用途では、何も変わりません。日本での提供状況はまだ発表されていません。

プロンプトキャッシュとは、AIへの指示文の先頭部分を計算済みの状態で保存し、次の依頼で再利用する仕組みです。システムプロンプト(AIへの基本指示)、参考資料、ツールの定義、これまでの会話などが対象になります。AWS Machine Learning Blogによると、再利用が多いほど節約額は大きくなります。

AWSの発表の図(Bedrockのオープンウェイトモデルで明示的キャッシュが利用可能に 入力コスト削減)
画像:AWS(公式発表)

暗黙的と明示的、2つのモードの違い

依頼が過去の依頼と同じ内容で始まると、Amazon Bedrockはその先頭部分をキャッシュから読み、残りだけを処理します。キャッシュの読み取りは標準の入力より低い料金です。モデルによっては、書き込みが標準より高くなります。

設定が不要なら暗黙的、保存範囲を絞りたいなら明示的です。

表は記事の最初(要点の下)にあります

Chat Completions APIでは、明示的モードにprompt_cache_optionsのmodeをexplicitにし、prompt_cache_breakpointの印を1つ以上付けます。

AWSの発表の図(Bedrockのオープンウェイトモデルで明示的キャッシュが利用可能に 入力コスト削減)
画像:AWS(公式発表)

暗黙的キャッシュは先頭を固定すると効く

会話では、毎回それまでの全文を送り直します。前の依頼が、次の依頼のキャッシュ済みの先頭になります。

AWSは、固定の内容を先に、変わる内容を後に置くよう勧めています。先頭が変わると、その位置からキャッシュが作り直されます。

サンプルでは、システムメッセージにマニュアルを、ユーザーメッセージに質問を入れています。両方を1つのユーザーメッセージの部分として送ると、暗黙的キャッシュは効きませんでした。

明示的キャッシュで書き込みを絞る

暗黙的モードでは、次回以降に使われない内容もキャッシュに書き込まれることがあります。毎回変わる質問が典型です。

共通部分の後ろの内容が毎回変わるなら、明示的キャッシュで書き込みを共通部分だけに絞れます。最後の区切りより後ろは標準の入力料金です。書き込みが高いモデルでも、読まれない内容に高い書き込み料金を払わずに済みます。

区切りは、変わる頻度の違う層ごとに複数付けられます。上限はモデルによって違います。

サンプルのコードの要点は次のとおりです。

  • システムメッセージの本文を、テキスト部分として渡す
  • そのテキスト部分にprompt_cache_breakpointのmodeをexplicitにして付ける
  • extra_bodyでprompt_cache_optionsのmodeをexplicitにして送る
  • モードだけで区切りが無いと、何もキャッシュされない
  • 区切りだけでモードの指定が無いと、暗黙的キャッシュのように動く

キャッシュの保持時間(TTL)は、キャッシュに当たるたびにリセットされます。ttlの指定値は、モデルカードで確認します。

使い方:キャッシュの効き方を確かめる

AWSのサンプルは、架空の浄水器「AnyCompany AquaPure 500」のサポートアシスタントです。約4,000トークンのマニュアルを共通の先頭にして、3つの質問を送ります。

応答の使用量(usage)にあるprompt_tokens_detailsで、キャッシュの動きが分かります。読んだ量がcached_tokens、書いた量がcache_write_tokensです。

暗黙的モードの初回実行は、次のようになります。

  • 1回目は、プロンプトをキャッシュに書き込む
  • 2、3回目は、マニュアルをキャッシュから読む
  • 2、3回目は、新しい質問の分として数トークンを書く
  • 最後のメッセージの後ろの数トークンは、毎回キャッシュされない

TTLの間に再実行すると、すべての呼び出しが読み取りになり、書き込みは発生しません。明示的モードでは、2、3回目の書き込みがありません。

準備に必要なものは次のとおりです。

  • 選んだモデルを使えるAWSアカウント(対応リージョンはモデルごとに違う)
  • そのモデルを呼び出せるIAMの権限
  • Python 3.12と、openaiの3.26.0以降、aws-bedrock-token-generatorの1.1.0以降
  • エージェントの例では、OpenCode 1.18.35を入れるnpm

認証は、aws-bedrock-token-generatorのprovide_token()で、AWSの認証情報から最長12時間有効の短期APIキーを作ります。長期のキーを作って保管する必要はありません。

マニュアルは、モデルカードの最低限のプレフィックスの長さを超える必要があります。サンプルでは、ダミーの文章でもよいとされています。キャッシュに必要なのは同一の先頭だけだからです。推論モデルが返す推論用のトークンも、max_tokensに含まれます。

料金とプライバシーの扱い

入力トークンは、キャッシュ書き込み、キャッシュ読み取り、標準入力の3つのレートのどれかで請求されます(Amazon Bedrockの公式ドキュメント、11/17確認)。Amazon Novaの暗黙的キャッシュの再利用は例外です。各モデルの料金は、Amazon Bedrockの料金ページにあります。

Bedrockのほかのモデルと同じく、プロンプトと出力はモデル提供元と共有されず、モデルの学習にも使われません。

モデルによって違うこと

BedrockのOpenAIモデルは、対応するAPI経由で暗黙的キャッシュを使えます。GPT-5.6以降のモデルは、明示的キャッシュにも対応します(Amazon Bedrockの公式ドキュメント、11/17確認)。

Anthropicのモデルは明示的キャッシュに対応し、キャッシュコントロールの無いリクエストはキャッシュされません。保持時間は5分と1時間です(同、11/17確認)。

Mistral Large 3は、bedrock-runtimeエンドポイントで暗黙的キャッシュに対応しています(AWS Machine Learning Blog、11/17確認)。Anthropic向けの解説にある明示的キャッシュの設定は、オープンウェイトモデルにそのまま当てはまりません。

サイソクの見方:まず暗黙的で測り、変わる質問が多いなら明示的へ

会話や、同じ手順をくり返すエージェントのように、先頭が安定している用途なら、まず設定の要らない暗黙的キャッシュで効果を測るのが手堅いと考えられます。

AquaPureの例のように、共通のマニュアルに毎回違う質問が続く用途で、書き込みが高いモデルを使うなら、明示的キャッシュで共通部分だけを書き込む方が無駄が出にくいとみられます。

どちらの場合も、使うモデルのモデルカードで対応モード、最低限の長さ、TTLを先に確認するとよいでしょう。

Amazonの発表を読む

よく読まれている記事

  1. 進研ゼミのイヤホン84,779個を自主回収
  2. ニッスイ、家庭用食品の値上げを発表 冷凍食品や缶詰など約2〜25%
  3. Outlookのメールは消えるのか 障害中に送った・届くはずだった分はどうなる
  4. 楽天ブラックフライデー2026は11月19日20時開始
  5. 児童手当の12月支給日は11〜15日に 主要9市の日付と確かめ方

仕事での使いどころ

影響:一部の人
  • Bedrockで生成AIアプリを運用する開発者は、共通の長い指示文の入力コストを下げられます。
  • キャッシュの読み取りは標準の入力より低い料金で、モデルごとの料金はAmazon Bedrockの料金ページで確認できます。

発表内容をもとにした一般的な情報です。導入や契約の判断は、公式情報を確かめたうえでご自身で行ってください。

今すぐ使える

サイソクの判定

長い共通プロンプトを使うなら、モデルカードで対応モードを確認し、まず暗黙的キャッシュの効果を測るとよいでしょう。

料金
従量課金
主な対象
開発者

11/17時点の判定。発表内容をもとにAIで判定しています。最新の提供状況は公式情報をご確認ください。

よくある質問

Q. Bedrockの暗黙的キャッシュで効かない書き方はある?
サンプルでは、マニュアルと質問を1つのユーザーメッセージの部分として送ると、暗黙的キャッシュに当たりませんでした。固定の内容はシステムメッセージに置きます。
Q. Bedrockの明示的キャッシュで区切りだけ指定するとどうなる?
モードを明示的にせず区切りだけを付けると、暗黙的キャッシュと同じ動きになります。モードだけで区切りが無い場合は、何もキャッシュされません。
Q. Bedrockのキャッシュ保持時間はどこで確認する?
キャッシュの保持時間はモデルごとに違い、モデルカードで確認します。キャッシュに当たるたびにリセットされ、ttlの指定値もモデルカードにあります。
出典を見る(1件)・確認方法・更新履歴
出典(公式)
AWS Machine Learning Blog「Use prompt caching with open-weight models on Amazon Bedrock」
日時
公式発表 サイソク掲載
確認方法
公開前に、本文を出典と自動で照合しています(事実確認 88点/100点、70点未満は非公開)。制作と確認の方法
誤りの報告
お問い合わせから受け付けています。直した記事は訂正履歴に残します。

この記事をシェアする

NEWSLETTER

毎朝7時、暮らしとお金のニュースの要点を5本

前日に出た記事から、給付・税・料金・値上げなど暮らしとお金に関わる話を中心に選び、1本2行でまとめてメールで届けます。無料・いつでも解除できます。

確認メールのリンクを開いた時点で登録完了です。アドレスは配信にだけ使います(プライバシーポリシー)。 配信の内容

大きな速報を、通知ですぐに

主要企業の大きな発表だけ、1日4回まで。夜22時〜朝7時は鳴らしません。いつでも解除できます。

本記事は公式発表の文章をもとにAIが要約・解説して自動生成したものです。誤りが含まれる可能性があるため、正確な仕様・料金は公式発表をご確認ください。元記事を読む制作方法と事実確認の手順は編集方針をご覧ください。誤りのご指摘はお問い合わせから受け付けています。