AI資格ドリル
資格を選ぶ↓

生成AIの仕組み

生成パラメータ(Temperature・Top-p)とは

生成パラメータは、2027年2月試験から適用される生成AIパスポートの公式シラバスで、第2章の中項目「生成AIの生成(推論)プロセス」に学習項目として載ります。Temperature、Top-p、コンテキストウィンドウが同じ中項目に並びます。Temperature・Top-pは出力のランダム性の設定、コンテキストウィンドウはモデルが一度に扱える範囲、と役割で分けて覚えます。

このページは、公式シラバスとOpenAI公式のAPI文書の範囲で、3つの用語の役割(コンテキストウィンドウとの違いを含む)、値を変えたときの出力の変化、同時に変えない理由、コンテキストウィンドウとの違いを整理しています。

公式情報の確認

試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。

試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。

結論

  1. 生成AIは、直前までの文脈から次のトークンを確率にもとづいて選ぶ。選び方の設定が生成パラメータ
  2. Temperatureは、高いほど出力がランダムに、低いほど焦点が絞られ決定的になる
  3. Top-pは、Temperatureの代替になるnucleus sampling。上位の確率質量を占めるトークンだけを考慮する
  4. OpenAI公式のAPI文書は、TemperatureとTop-pのどちらか一方だけを変えることを一般に推奨している
  5. コンテキストウィンドウは出力の選び方ではなく、モデルが一度に扱える範囲。入力が超えると収まらない

確率的な次トークン予測

公式シラバスは、第2章の中項目「生成AIの生成(推論)プロセス」の学習目標を、生成AIが文章を生成する仕組みと、ハルシネーションが起こる理由、生成パラメータやコンテキストウィンドウの理解としています。学習項目には「確率的な次トークン予測」が置かれ、同じ中項目の詳細キーワードにトークンと確率分布が載ります。

GPT-1の原論文は、各トークンをそれ以前の文脈のトークンだけから予測するように学習する言語モデルを使うと述べています。文章の生成は、次のトークンを選ぶ操作の繰り返しで、その選び方を調整する設定が生成パラメータです。ハルシネーションが起こる理由は、ハルシネーションとはに、トークンの数値表現は埋め込みとベクトル表現にまとめています。

一次資料: 生成AIパスポート公式シラバス、Radford et al.「Improving Language Understanding by Generative Pre-Training」(OpenAI, 2018)

Temperature

OpenAI公式のAPI文書(Responses APIのcreate)は、Temperatureを0から2の間で指定するサンプリング温度と説明します。0.8のような高い値は出力をよりランダムにし、0.2のような低い値は出力をより焦点が絞られた決定的なものにします。「ランダム」「創造的」なら高め、「焦点が絞られる」「決定的」なら低め、と方向を結びつけます。

0から2という範囲は、このAPIの仕様です。他社のサービスでは設定範囲が異なる場合があるため、試験では範囲の数字より、高い値と低い値で出力の性質がどう変わるかを押さえます。

一次資料: OpenAI「API Reference: Responses create」

Top-p

同じAPI文書は、Top-pを、Temperatureによるサンプリングの代替で、nucleus samplingと呼ぶ方法と説明します。モデルは、指定した確率質量(top_p)を占めるトークンの結果を考慮します。0.1なら、上位10%の確率質量を構成するトークンだけが考慮されます。

同じ文書は、TemperatureとTop-pのどちらか一方を変えることを一般に推奨し、両方を変えることは勧めていません。Temperature・Top-pは、どちらも出力のランダム性に関わる設定として並べて覚えます。プロンプト側の工夫はプロンプトエンジニアリングとはに分けています。

一次資料: OpenAI「API Reference: Responses create」

コンテキストウィンドウ

コンテキストウィンドウは、公式シラバスで生成パラメータと同じ中項目に並ぶ用語です。OpenAI公式のAPI文書は、入力がモデルのコンテキストウィンドウの大きさを超える場合、truncationを自動に設定していると、先頭側の項目を落として収めると説明しています。出力の選び方がTemperature・Top-p、入力を収める範囲がコンテキストウィンドウです。

収まれば十分に使われるとも限りません。Anthropic Engineeringの記事は、トークンが増えるほど情報を正確に思い出す能力が下がるコンテキストロットが全モデルに現れたと述べます。コンテキストは収穫が逓減する有限の資源で、質の高い最小限のトークンの集合を見つけることが大切だとしています。何を渡すかを決める考え方はコンテキストエンジニアリングとはにまとめています。

一次資料: OpenAI「API Reference: Responses create」、Anthropic Engineering「Effective context engineering for AI agents」

手掛かり語で見分ける

説明文のどの語に反応するかで、3つの用語を切り分けます。

用語手掛かり語役割の要点
Temperatureランダム性、0.8は高め・0.2は低めサンプリング温度。高いほど出力がランダムに、低いほど焦点が絞られ決定的になる
Top-pnucleus sampling、上位の確率質量Temperatureによるサンプリングの代替。0.1なら上位10%の確率質量を構成するトークンだけを考慮する
コンテキストウィンドウ入力が超える、切り詰めモデルが一度に扱える範囲。入力がこれを超えると、公式文書の自動設定では先頭側の項目を落として収める

シラバスのどこに出るか

2027年2月試験から適用される公式シラバスでは、第2章の中項目「生成AIの生成(推論)プロセス」に、次の学習項目が並んでいます。

場所内容
第2章 中項目「生成AIの生成(推論)プロセス」の学習項目「確率的な次トークン予測」同じ中項目の学習目標は、文章を生成する仕組みとハルシネーションが起こる理由、生成パラメータやコンテキストウィンドウの理解
同じ中項目の学習項目「生成パラメータ(Temperature・Top-p)」「コンテキストウィンドウ」詳細キーワードに確率分布、生成パラメータ、Temperature、Top-p、コンテキストウィンドウ、トークンが並ぶ

第2章の生成の流れの中で、出力の選び方(Temperature・Top-p)と、入力を収める範囲(コンテキストウィンドウ)を分けて読みます。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。

よくある質問

Temperatureを上げると、出力はどう変わりますか?

出力がよりランダムになります。OpenAI公式のAPI文書は、Temperatureを0から2の間で指定するサンプリング温度とし、0.8のような高い値は出力をよりランダムに、0.2のような低い値はより焦点が絞られ決定的にすると説明しています。0から2という範囲はこのAPIの仕様で、他社のサービスの設定範囲とは限りません。

Top-pとは何ですか?

Temperatureによるサンプリングの代替で、nucleus samplingと呼ぶ方法です。次トークンの候補のうち、指定した確率質量を占める上位のトークンだけを考慮します。OpenAI公式のAPI文書は、0.1なら上位10%の確率質量を構成するトークンだけを考慮すると例示しています。

TemperatureとTop-pは、両方を変えてよいですか?

OpenAI公式のAPI文書は、どちらか一方を変えることを一般に推奨し、両方を変えることは勧めていません。試験では、2つとも出力のランダム性に関わる設定であり、役割が近いと押さえておけば足ります。

コンテキストウィンドウとTemperatureは、どう違いますか?

Temperatureは出力の選び方(ランダム性)に関わる設定です。コンテキストウィンドウは、モデルが一度に扱える範囲です。OpenAI公式のAPI文書は、入力がモデルのコンテキストウィンドウの大きさを超えると、truncationを自動に設定した場合は先頭側の項目を落として収めると説明しています。

コンテキストウィンドウに入りさえすれば、長い入力でも正確に使われますか?

必ずしもそうとは言えません。Anthropic Engineeringの記事は、長い文章から情報を探すベンチマークの研究で、トークンが増えるほど情報を正確に思い出す能力が下がるコンテキストロットが全モデルに現れたと述べ、コンテキストは収穫が逓減する有限の資源だと位置づけています。

次に読むと効率的なページ

執筆: ミナト編集部(運営者情報を見る)