推論

推論とは、既に学習を終えたAIモデルに新しい入力（プロンプトなど）を与え、その入力に基づいて出力（回答や生成物）を計算するプロセスのことです。AIの活用は大きく「学習（トレーニング）」と「推論」の2つの段階に分けられ、私たちが普段チャットAIに質問して答えを得るときに行われているのは、この推論の段階にあたります。

学習は一度モデルを作る際に大量の時間と計算資源を使って行われる重い処理である一方、推論は既にできあがったモデルを使って都度計算するもので、応答速度やコストの面で異なる特性を持ちます。AIサービスの利用料金体系や応答速度の話をするとき、多くは推論にかかるコストや処理時間を指しています。

技術的な詳細を知らなくても支障はありませんが、「学習」と「推論」が別の工程であることを理解しておくと、「なぜ同じ質問でも毎回少しずつ違う答えが返るのか」「なぜ大量に使うと料金がかさむのか」といった疑問の背景がつかみやすくなります。

チャットAIに質問を送って回答が返ってくる一連の処理、AIコーディングエージェントが指示を受けてコードを生成する処理は、いずれも推論にあたります。

• 大規模言語モデル（LLM）
• トークン
• パラメータ
• レイテンシ
• コンテキストウィンドウ