推論コストとは

推論コストとは、学習済みのAIモデルに入力を渡して応答を作らせるたびにかかる費用のことです。読み方は「すいろんこすと」、英語では inference cost と書きます。

AIの費用は、モデルを作るときの「学習」と、作ったモデルを動かすときの「推論」に分かれます。学習は一度の大きな費用ですが、推論は使うたびに発生します。APIを使う側から見ると、推論コストはそのまま利用料金として請求されます。

料金の単位はトークンです。トークンは文章を細かく区切った単位で、入力として送った分と、モデルが出力した分の両方が数えられます。

基本の式は「入力トークン数 × 入力単価 ＋ 出力トークン数 × 出力単価」です。単価は100万トークンあたりで示されるのが一般的です。

Anthropic の料金ページには計算例が載っています。Claude Opus 5（入力100万トークンあたり5ドル、出力25ドル）で、入力5万トークン・出力1万5千トークンを使うと、入力が0.25ドル、出力が0.375ドルになります。出力は入力の3割の量なのに、費用は入力より高くなっています（料金の説明（公式ドキュメント））。

同じページでは、キャッシュから読み込んだ入力は多くのモデルで通常の入力単価の0.1倍、急がない大量処理をまとめて送るバッチ処理は入力・出力とも50%引きとされています。OpenAI のバッチ処理も、同期で呼ぶ場合に比べて50%引きで、24時間以内に完了するとしています（バッチ処理の手引き（公式ドキュメント））。

AIコーディングエージェントは、目に見える質問と回答よりずっと多くのトークンを使います。

• 道具の説明が毎回入力に乗る：ツールを使える状態にすると、ツールの名前や説明、使い方の指示文が入力トークンとして加わります。
• コマンドの出力も入力になる：npm test の長いログや、開いたファイルの中身は、次の判断のための入力として送られます。
• 読み込んだWebページも数えられる：公式ドキュメントでは、10kB ほどのWebページで約2,500トークンという目安が示されています。

1回の依頼でも、エージェントの中ではこうした往復が何度も起きています。費用が想定より大きくなったときは、まずログの長さと、読ませたファイルの数を見直します。

• 誤解：回答が短ければ安い → 実際：入力も課金されます。長い資料を毎回添えていれば、回答が1行でも入力側の費用がかかります。
• 誤解：同じ文章ならどのモデルでもトークン数は同じ → 実際：文章の区切り方はモデルによって違います。Anthropic は、新しい区切り方を使うモデルでは同じ文章がおよそ30%多いトークンになると書いています。単価だけでなく、トークン数も実際に測って比べます。
• 誤解：チャットの月額プランと同じ考え方 → 実際：APIは使った分だけ請求される従量制です。ループの書き間違いで同じ呼び出しが続けば、その分だけ費用が積み上がります。

• 作業に合ったモデルを選ぶ：分類や短い要約のような単純な作業は、小さく安いモデルで足りることがあります。
• 繰り返す部分はキャッシュする：毎回同じ指示文や資料を送るなら、コンテキストキャッシュで読み込み分の単価を下げられます。
• 急がない処理はバッチにまとめる：評価用の大量の問いや、夜間の一括分類に向いています。
• 使用量を記録する：応答に含まれる入力・出力のトークン数を残しておけば、どの処理が費用を押し上げているかが分かります。1回あたりの呼び出し数に上限を設けると、レートリミットにも当たりにくくなります。

• トークン
• コンテキストウィンドウ
• レートリミット
• 推論
• コンテキストキャッシュ
• トークナイザー
• レイテンシ

• AIコーディングエージェントの料金を抑える使い方
• LLM評価の指標一覧表｜正確性・忠実性・有害性・コストの測り方まとめ

• 料金の説明（公式ドキュメント）
• バッチ処理の手引き（公式ドキュメント）

Q1. 推論コストとは何ですか？
学習済みのAIモデルに入力を渡して応答を作らせるたびにかかる費用のことです。APIを使う場合は、主に入力と出力のトークン数に単価を掛けた額が利用料金として請求されます。

Q2. 学習コストとは何が違いますか？
学習コストはモデルを作るときにかかる費用で、推論コストは作ったモデルを動かすたびにかかる費用です。APIの利用者が払うのは、主に推論コストの側です。

Q3. 出力のほうが高いのはなぜですか？
多くの料金表で、出力の単価は入力より高く設定されています。たとえば Anthropic の料金ページの計算例では、出力の単価が入力の5倍です。回答の長さを指定するだけでも費用は変わります。

Q4. 推論コストを見積もるにはどうすればよいですか？
代表的な入力を数件用意して実際に呼び出し、応答に含まれる入力・出力のトークン数を記録します。その平均に公式の単価と想定の回数を掛ければ、おおよその額が出ます。