生成AIの技術の基礎
GPT-1からGPT-3.5までの歴史（各モデルの違いと進歩の要点）
2027年2月試験から適用される生成AIパスポートの公式シラバスには、第2章の学習項目「ChatGPTとは」に「ChatGPT登場までの歴史（GPT-1〜GPT-3.5）」が挙がっています。GPT-1からGPT-3.5までは、学習のさせ方が「ファインチューニング」から「例を示すだけ」、さらに「人間のフィードバックで調整」へと進んだ流れで整理できます。
このページは、各モデルの原論文の要旨とOpenAIの公式発表の範囲で、モデルごとの違いと進歩の要点をまとめています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- GPT-1は、事前学習のあとにタスクごとのファインチューニングをする方式
- GPT-2は、教師データなしで複数のタスクを解き始めた
- GPT-3は1750億パラメータで、追加学習なしに例を数個示すだけ（Few-Shot）で解く
- InstructGPTは、GPT-3を人間のフィードバックによる強化学習（RLHF）で調整して、指示に従いやすくした
- ChatGPTは、GPT-3.5シリーズをRLHFでファインチューニングした対話向けのモデル
モデル別の違いの一覧
設問では「どのモデルの特徴か」を選ぶ形が考えられるため、特徴を手掛かり語と一緒に並べます。
| モデル | 特徴 | 規模などの手掛かり |
|---|---|---|
| GPT-1 | ラベルなしの大量のテキストで言語モデルを事前学習し、そのあとタスクごとにファインチューニングする | — |
| GPT-2 | WebTextという数百万のWebページのデータで学習。タスクごとの教師データなしに、複数のタスクを解き始める | 最大のモデルは15億パラメータ（1.5B） |
| GPT-3 | 追加の学習をせず、例を数個示すだけ（Few-Shot）で多くのタスクをこなす | 1750億パラメータ（175B） |
| InstructGPT | GPT-3を、人間の実演データと人間のフィードバックによる強化学習（RLHF）で調整し、指示に従いやすくした | 1.3B版が175BのGPT-3より好まれた |
| ChatGPT | 対話形式で学習したモデル。GPT-3.5シリーズをRLHFでファインチューニングした | — |
一次資料: OpenAI「Improving Language Understanding by Generative Pre-Training」、「Language Models are Unsupervised Multitask Learners」、Brown et al.（arXiv 2005.14165）、Ouyang et al.（arXiv 2203.02155）、OpenAI「ChatGPT が登場」
GPT-1：事前学習とファインチューニング
GPT-1の論文は、ラベルのない大量のテキストは豊富にある一方、個別のタスク用のラベル付きデータは少ないという問題から出発します。そこで、多様なテキストで言語モデルを生成的に事前学習し、そのあとで各タスクに合わせて識別的にファインチューニングすると、大きな改善が得られると示しました。「まず大量のラベルなしテキストで事前学習し、次にタスクごとにファインチューニングする」が、GPT-1の型です。
事前学習では、各トークンをそれ以前の文脈だけから予測するように学習し、モデルにはTransformerのデコーダを重ねた構成を使います。Transformerの仕組みはTransformerとはで整理しています。
GPT-2：事前学習だけで多くのタスクへ
GPT-2の論文は、数百万のWebページからなるWebTextというデータで学習した言語モデルが、明示的な教師データなしに、複数のタスクを解き始めると報告しました。最大のモデルは15億（1.5B）パラメータのTransformerで、8つの言語モデリングのデータセットのうち7つで、ゼロショットの設定で当時の最高水準の結果を出したと述べています。GPT-1との違いは、タスクごとのファインチューニングをせずに、事前学習したモデルをそのまま使う方向へ進んだ点です。
GPT-3：少数の例だけで解く
GPT-3の論文は、言語モデルを大きくすると、タスクを特定しない形での少数の例による（Few-Shot）性能が大きく向上すると示しました。GPT-3は1750億パラメータの自己回帰型言語モデルで、それまでのスパースでない言語モデルの10倍の規模です。すべてのタスクで、勾配の更新もファインチューニングもせず、タスクと例を文章でモデルに伝えるだけで適用しています。「追加の学習をせずに、プロンプトに例を数個入れるだけで解く」が、GPT-3の特徴です。
同じ論文は、Few-Shotが苦手なデータセットがあること、Web上の大規模なデータで学習することに由来する方法上の問題があることも述べています。規模を大きくした効果と、残る課題の両方を押さえます。プロンプトの書き方はプロンプトエンジニアリングとはで扱っています。
InstructGPTとChatGPT：人間のフィードバック
InstructGPTの論文は、大きな言語モデルが、ユーザーの意図に沿わない出力をすることがあると指摘します。そこで、GPT-3を人間が書いた実演データで教師あり学習し、次にモデル出力の順位づけデータを集めて、人間のフィードバックによる強化学習（RLHF）でさらにファインチューニングしました。これがInstructGPTです。人間の評価では、1.3BパラメータのInstructGPTの出力が、100倍のパラメータを持つ175BのGPT-3の出力より好まれました。「大きくする」だけでなく、「人間のフィードバックで調整する」ことで、指示への従いやすさが上がったのがこの段階です。
OpenAIは2022年11月30日に、ChatGPTを研究プレビューとして公開しました。公式発表は、ChatGPTを会話形式で対話するよう学習させたモデルで、InstructGPTの類似モデルと説明しています。2022年初頭に学習を終えたGPT-3.5シリーズのモデルを、RLHFでファインチューニングしたものです。研究プレビュー期間中は利用が無料でした。RLHFを含む学習の段階はLLMの学習3段階に、ChatGPTとGPTの呼び方の違いはChatGPTとGPTの違いにまとめています。
シラバスのどこに出るか
2027年2月試験から適用される公式シラバスでは、次の2か所に関連する項目が載っています。
| 場所 | 内容 |
|---|---|
| 第2章 中項目「LLM（大規模言語モデル）の基礎」の学習項目「ChatGPTとは」 | 「ChatGPT登場までの歴史（GPT-1〜GPT-3.5）」が項目に挙がり、同じ学習項目「ChatGPTとは」の詳細キーワードにマルチモーダル、推論モデル、事前学習、RLHFなどが載る |
| 第2章 中項目「生成AIの学習プロセス」 | 詳細キーワードに事前学習、ファインチューニング、RLHF、スケーリング則が載る |
歴史は暗記より、「学習のさせ方がどう変わったか」の流れで覚えると、選択肢を切り分けやすくなります。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。
よくある質問
GPT-1からGPT-3までで、いちばん大きな違いは何ですか？
学習の使い方です。GPT-1は事前学習のあとにタスクごとのファインチューニングが必要でした。GPT-2は教師データなしに多くのタスクを解き始め、GPT-3は追加の学習をせず、例を数個示すだけで解くことを示しました。
GPT-3のパラメータ数はいくつですか？
原論文は、GPT-3を1750億（175 billion）パラメータの自己回帰型言語モデルと説明しています。それまでのスパースでない言語モデルの10倍にあたる規模だと述べています。
InstructGPTとは何ですか？
GPT-3を土台に、人間が書いた実演データで教師あり学習のファインチューニングをしたあと、モデル出力の順位づけデータを使って人間のフィードバックによる強化学習（RLHF）でさらに調整したモデルです。原論文は、1.3BパラメータのInstructGPTの出力が、100倍多いパラメータを持つ175BのGPT-3の出力より人間の評価で好まれたと報告しています。
ChatGPTは、どのモデルを土台にしていますか？
OpenAIの公式発表は、ChatGPTを、会話形式で対話するよう学習させたモデルで、InstructGPTの類似モデルと説明しています。2022年初頭に学習を終えたGPT-3.5シリーズのモデルを、RLHFでファインチューニングしたものです。
GPT-3.5のあとのGPT-4以降は、このページに含まれますか？
含みません。シラバスの項目名は「ChatGPT登場までの歴史（GPT-1〜GPT-3.5）」で、このページはそこまでを扱います。マルチモーダルや推論モデルなど、その後の動向は別のページで整理しています。
生成AIパスポートの学習に使う書籍（Amazon）
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
