推論コスト
すいろんこすと
AIモデルが応答を生成する際にかかる計算コストのことで、多くはトークン数に応じて課金されます。
最終更新: 2026-07-10
01
詳しい解説
推論コストとは、学習済みのAIモデルが入力に対して出力を計算・生成する処理（推論）にかかるコストのことです。多くのAIサービスでは、入力と出力それぞれのトークン数に応じて料金が計算される仕組みが採用されています。
同じ質問でも、渡す前提情報が長くなるほど入力側のトークン数が増え、詳細な回答を求めるほど出力側のトークン数が増えるため、推論コストは会話の長さや依頼内容によって変動します。モデルの規模が大きいほど、一般的に推論コストも高くなる傾向があります。
02
具体例・使いどころ
長いコードベース全体を毎回AIに読み込ませて質問すると、入力トークン数が膨らみ、簡潔な質問を繰り返す場合に比べて推論コストが大きくなります。
03