生成AIパスポート 用語解説
GPTモデルとは
OpenAIが開発した、大量のテキストで事前学習した文章生成向けの言語モデル。
まず押さえる結論
GPTモデルは、生成AIパスポートの「第2章 生成AI（ジェネレーティブAI）」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×ハルシネーション・アライメント・ファインチューニングの取り違え。事実と異なるもっともらしい出力＝ハルシネーション、人間の意図に沿わせること＝アライメント、追加学習で調整＝ファインチューニング。
×GANとVAEの混同。GANは生成器と識別器を競わせる方式、VAEはエンコーダ・デコーダと潜在ベクトルを使う方式。
×Transformerの中核を畳み込みや位置エンコーディングと取り違える。中核は自己注意（Self-Attention）。
関連する確認問題
第2章 生成AI（ジェネレーティブAI） / 生成AIの誕生まで
GPTをはじめとする現在の多くの大規模言語モデルの基盤となっているアーキテクチャと、その中核的な仕組みの組み合わせとして正しいものはどれか。
正解は「Transformerモデル ── 自己注意力（Self-Attention）」である。現在のGPTモデルなどの基盤はTransformerモデルで、その中核は入力中の各要素の関係に重みづけする自己注意力（Self-Attention）である。畳み込みはCNN、位置エンコーディングはTransformerの補助要素だが中核ではない。ボルツマンマシンは初期の生成モデルの一つ。 選択肢を切るときは、設問の条件を「Transformerモデル」「自己注意力（Self-Attention）」「GPTモデル」のどれに結び付けるかを先に固定する。他の選択肢は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解選択肢は、問われている定義や状況に最も直接対応する点で選べる。
第2章 生成AI（ジェネレーティブAI） / 生成AIの誕生まで
直前までの単語列をもとに次の単語を予測することを繰り返して文章を生成する、GPTが採用している方式を何というか。
正解は「自己回帰モデル」である。直前までの出力をもとに次を予測することを繰り返す方式を自己回帰モデルといい、GPTはこの方式で文章を生成する。GANは生成器と識別器を競わせる方式、VAEはエンコーダ・デコーダによる方式、ボルツマンマシンは初期の生成モデルで、いずれも逐次予測を繰り返す自己回帰方式ではない。 選択肢を切るときは、設問の条件を「自己回帰モデル」「GPTモデル」「GAN（敵対的生成ネットワーク）」のどれに結び付けるかを先に固定する。「GAN（敵対的生成ネットワーク）」、「ボルツマンマシン」、「VAE（変分自己符号化器）」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「自己回帰モデル」は、問われている定義や状況に最も直接対応する点で選べる。
第2章 生成AI（ジェネレーティブAI） / 生成AIの誕生まで
文章中の一部の単語を隠して当てさせるMLM（Masked Language Model）と、2つの文が連続しているかを判定するNSP（Next Sentence Prediction）によって事前学習を行う言語モデルはどれか。
正解は「BERTモデル」である。MLM（Masked Language Model）とNSP（Next Sentence Prediction）で事前学習を行うのはBERTモデル。GPTモデルは直前までの単語列から次を予測する自己回帰方式で学習する別系統のモデル、ボルツマンマシンは初期の確率的な生成モデル、VAEはエンコーダ・デコーダ方式の生成モデルで、いずれもMLM・NSPで事前学習するものではない。 選択肢を切るときは、設問の条件を「BERTモデル」「MLM（Masked Language Model）」「NSP（Next Sentence Prediction）」のどれに結び付けるかを先に固定する。「VAE（変分自己符号化器）」、「ボルツマンマシン」、「GPTモデル」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「BERTモデル」は、問われている定義や状況に最も直接対応する点で選べる。
同じ章で確認したい用語
到達チェック
- GPTモデルを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、GPTモデルに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる