用語比較
トークンとコンテキストウィンドウの違い(生成AIパスポート)
トークンとコンテキストウィンドウは、生成AIの仕組みを学ぶと頻繁に出てくる語ですが、「どちらも文章の長さに関係する」という印象だけで混同しやすい組み合わせです。
違いは、何を指すかです。トークンは、生成AIが文章を処理するときの区切りの単位です。コンテキストウィンドウは、そのトークンを一度に扱える量の上限です。
生成AIパスポートの公式シラバス(2027年2月試験より適用)は、第1章の「生成AIの生成(推論)プロセス」で、生成AIが文章を生成する仕組みと、ハルシネーションが起こる理由、生成パラメータやコンテキストウィンドウを理解することを学習目標にしています。学習項目には「確率的な次トークン予測」が置かれています。
このページは、生成AIを学び始めて用語の意味を整理したい人を対象に、2語の関係を数値例で確かめます。出力のばらつきを決める設定は別ページで扱います。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。生成AIパスポートの一次情報確認日: 2026-08-31。
結論
トークン
生成AIが文章を処理するときの区切りの単位。OpenAIの公式文書は、よく現れる文字の並びを表す塊だと説明する。
コンテキストウィンドウ
一度に扱えるトークン数の上限。OpenAIの公式文書では、入力と生成した出力の合計がモデルの最大のコンテキスト長以内に収まる必要がある。
違いを表で確認
| 比較軸 | トークン | コンテキストウィンドウ |
|---|---|---|
| 何を指すか | 文章を処理するときの区切りの単位 | 一度に扱えるトークン数の上限 |
| 数え方 | 単語や文字そのものではなく、よく現れる文字の並びごとに数える | 入力の文章と、生成される出力の合計トークン数で数える |
| 長い文章のとき | 文章が長いほどトークンの数が増える | トークンの合計が上限を超えると、一度に扱えない |
| 公式シラバスでの位置づけ | 学習項目の「確率的な次トークン予測」に登場する | 第1章の学習目標で、生成パラメータとともに理解する対象に挙がる |
生成AIパスポートの学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
トークンを単語のことだと考えている人
トークンは単語と一致するとは限りません。OpenAIの公式文書は、tokenizationという語がtokenとizationの2つに分かれる例を挙げています。短くよく使う語は1トークンです。
長い資料を貼ると途中までしか読まれない理由がわからない人
コンテキストウィンドウには上限があり、入力と出力の合計がそこに収まる必要があるためです。長い資料は、分けて入力するか、要点にまとめてから渡します。
具体例で使い分ける
例 1
上限が100万トークンのモデルで、入力が60万トークンの場合
OpenAIの公式文書の考え方で、入力と出力の合計が上限に収まるかを確かめます。
- GPT-4.1は、最大100万トークンのコンテキストウィンドウを扱えるモデルとして知られています。数値は例として使い、実際の上限はモデルごとに確認します。
- 入力が60万トークンなら、生成できる出力の上限は、合計が100万トークン以内に収まる範囲、つまり最大40万トークンです。
結論: 上限は入力だけの数ではなく、入力と出力の合計で決まります。
問題文から答えを選ぶ手順
- 1
何を問われているかを読む
「区切りの単位」ならトークン、「一度に扱える量の上限」ならコンテキストウィンドウです。
- 2
数の単位を確認する
コンテキストウィンドウはトークン数で表します。文字数や単語数とは一致するとは限りません。
- 3
入力だけか合計かを確認する
上限は入力と出力の合計で考えます。
試験での見分け方
- 1トークンは、文章を処理するときの区切りの単位。
- 2コンテキストウィンドウは、一度に扱えるトークン数の上限。
- 3上限は、入力と生成した出力の合計で考える。
- 4トークンは単語や文字と一致するとは限らない。
誤答しやすい選択肢
トークンを単語や文字と同じ数え方だと考える
修正: トークンはよく現れる文字の並びごとに数えます。1単語が複数のトークンに分かれることがあります。
コンテキストウィンドウを入力文の長さの上限だとだけ考える
修正: OpenAIの公式文書は、入力と生成した出力の合計がモデルの最大のコンテキスト長以内に収まる必要があると説明します。
コンテキストウィンドウを学習データの量と混同する
修正: コンテキストウィンドウは、推論するときに一度に扱える量の上限です。学習に使ったデータの量とは別の話です。
確認問題
Q1生成AIが文章を処理するときの区切りの単位を何といいますか?
答え: トークン
OpenAIの公式文書は、よく現れる文字の並びを表す塊としてトークンを説明しています。
Q2一度に扱えるトークン数の上限を何といいますか?
答え: コンテキストウィンドウ
入力と生成した出力の合計が、この上限に収まる必要があります。
Q3上限が10万トークンのモデルで、入力が7万トークンのとき、出力は最大で何トークンまで生成できますか?
答え: 3万トークン
入力と出力の合計が上限以内に収まる必要があるため、10万 − 7万 = 3万です。
到達チェック
- トークンが文章を処理する区切りの単位だと説明できる
- コンテキストウィンドウが一度に扱えるトークン数の上限だと説明できる
- 上限が入力と出力の合計で決まることを数値例で示せる
関連ページで確認する
同じ資格で次に知りたいこと
- ChatGPTとGPTの違い|対話向けに調整されたものと、元になったモデル(生成AIパスポート)
ChatGPTとGPT(GPT-3.5・GPT-4など)の違いを、対話向けに調整されたものと、その元になったモデルの関係で整理します。OpenAI公式の説明に沿って、ChatGPTの公開日、GPT-3.5との関係、RLHFの位置づけを解説し、生成AIパスポートでの判断手順と確認問題も掲載します。
- 組織公認AI・組織承認AI・シャドーAIの違い(生成AIパスポート)
生成AIパスポートの新シラバスに出るシャドーAIを、組織公認AI・組織承認AIとの違いから整理。IPAの手引書にもとづく3つの区別、発生する理由、会社が打つ対策、確認問題つきです。
- AIを道具として使った作品と、AIが自律的に生成したものの違い|著作物にあたるかの判断(生成AIパスポート)
AI生成物が著作物にあたるかを、文化庁の考え方にそって解説します。人が思想や感情を創作的に表現する道具としてAIを使った場合と、生成のボタンを押すだけでAIが生成した場合の違い、創作意図と創作的寄与の見方、プロンプトの長さや試行回数の扱い、確認問題も掲載します。
よくある質問
Qトークンとは?
生成AIが文章を処理するときの区切りの単位です。単語や文字と一致するとは限りません。
Qコンテキストウィンドウとは?
一度に扱えるトークン数の上限です。入力と生成した出力の合計がこの上限に収まる必要があります。
Q公式シラバスに載っていますか?
はい。2027年2月試験より適用のシラバスは、第1章の学習目標にコンテキストウィンドウを挙げ、学習項目に確率的な次トークン予測を置いています。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部(運営者情報を見る)
