生成AIパスポート 用語解説
GPT-3とは
OpenAIが2020年7月に発表したGPTモデル。少数の例示(Few-Shot)や例示なし(Zero-Shot)だけで、追加学習なしに多様なタスクをこなせることを示した論文の対象モデルとして知られる。
この記事の目次
まず押さえる結論
GPT-3は、生成AIパスポートの「第2章 生成AI(ジェネレーティブAI)」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-08-31。
公式シラバス(PDF)(公式)試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×ハルシネーション・アライメント・ファインチューニングの取り違え。事実と異なるもっともらしい出力=ハルシネーション、人間の意図に沿わせること=アライメント、追加学習で調整=ファインチューニング。
×GANとVAEの混同。GANは生成器と識別器を競わせる方式、VAEはエンコーダ・デコーダと潜在ベクトルを使う方式。
×Transformerの中核を畳み込みや位置エンコーディングと取り違える。中核は自己注意(Self-Attention)。
関連する確認問題
第2章 生成AI(ジェネレーティブAI) / ChatGPT
翻訳の見本を二組示した後、新しい一文を同じ形式で翻訳させた。この手法はどれか。
この事例では「例示を少数与えて追加学習なしにタスクを示すか」を確認すると、「Few-Shotプロンプティング」が当てはまると分かる。正解は「Few-Shotプロンプティング」である。Few-Shotでは、実行してほしいタスクの少数の入出力例をプロンプト内に示し、モデルの重みを更新せず、テキストによる指示と例示だけで回答させる。GPT-3原論文でも、勾配更新やファインチューニングを行わず、タスクと少数例をテキストで与える設定が評価された。ファインチューニングはタスク向けデータでモデルのパラメータを追加学習する。転移学習は別タスクで得た知識を新しいタスクへ利用する広い枠組みで、プロンプト内の例示だけを指す名称ではない。ドロップアウトは学習中に一部のノードを無効化して過学習を抑える手法である。
第2章 生成AI(ジェネレーティブAI) / ChatGPT
OpenAIが、人間のフィードバックを用いた学習でGPT-3を改良し、ユーザーの指示に沿うよう出力を人間の意図に合わせる(アライメント)ことを目指したモデルはどれか。
正解は「InstructGPT」である。OpenAIが、人間のフィードバックを用いた学習でGPT-3を改良し、ユーザーの指示に沿うよう出力を人間の意図に合わせる(アライメント)ことを目指したモデルがInstructGPTである。RoBERTa・ALBERT(a Lite BERT)・BERTモデルはいずれもBERT系のモデルであり、GPT-3を改良してアライメントを図ったものではない。RoBERTa・ALBERT・BERTモデルは、いずれもBERTモデルを改良した系統に属する点で、GPT-3を改良してアライメントを図ったInstructGPTとは改良元が異なる。
第2章 生成AI(ジェネレーティブAI) / ChatGPT
テキスト・音声・画像といった複数種類の情報を、一つのモデルでまとめて入出力できる、マルチモーダルに対応したGPTモデルの一つはどれか。
正解は「GPT-4o」である。テキスト・音声・画像といった複数種類の情報を一つのモデルでまとめて入出力できる、マルチモーダルに対応したGPTモデルがGPT-4oである。GPT-1は初期のテキスト中心のモデル、BERTモデルはMLM・NSPで事前学習する別系統のモデル、InstructGPTは人間のフィードバックでGPT-3を改良したモデルで、いずれもテキスト・音声・画像を一つのモデルでまとめて扱うことを特徴とするものではない。テキスト中心か複数種類の入出力かという軸と、GPTモデル系列かBERT系列かという軸で選択肢を分類すると、マルチモーダル対応のGPT-4oだけが残る。
同じ章で確認したい用語
到達チェック
- GPT-3を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、GPT-3に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部(運営者情報を見る)