ディープラーニングの応用例

G検定の生成モデル（VAE・GAN・拡散モデルの違い）

G検定のシラバスには、生成モデルとして変分オートエンコーダ（VAE）、敵対的生成ネットワーク（GAN）、Diffusion Modelが載っています。3つは、どれもデータから新しいデータを作るモデルですが、学習の仕組みが違います。

このページは、3つの原論文の記述をもとに、VAEのエンコーダとデコーダ、GANの生成器と識別器、拡散モデルがノイズを逆にたどる学習を整理しています。

公式情報の確認

試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。当サイトの一次情報確認日: 2026-10-02。

試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。

結論

VAEは、エンコーダ（認識モデル）とデコーダを持ち、連続な潜在変数を介してデータを作る
GANは、生成モデルGと識別モデルDを同時に訓練し、Gは、Dが間違える確率を最大化するよう学習する
拡散モデルは、ノイズを少しずつ加える拡散過程を逆にたどるよう学習する
DCGANはGANの構成を安定させる指針、Pix2PixとCycleGANは画像変換に使うGANの応用

VAE（エンコーダとデコーダ）

VAEの原論文は、データ点ごとに連続な潜在変数を持つ確率モデルについて、事後分布が扱えない場合にも、効率よく推論と学習ができる確率的変分推論のアルゴリズムを提案しています。近似推論のモデル（認識モデル）をニューラルネットワークで構成した場合が、変分オートエンコーダです。

観測されない変数zは、符号化理論の観点から、潜在表現または符号と解釈できます。認識モデルq(z|x)は確率的エンコーダで、データ点xが与えられると、xを生み出し得るzの分布を返します。 p(x|z)は確率的デコーダで、符号zが与えられると、対応し得るxの分布を返します。

VAEは「x→z（エンコーダ）、z→x（デコーダ）」の2方向を持つ点が、見分けの手掛かりです。原論文の実験では、潜在空間を2次元のような低次元に選ぶと、学習したエンコーダで高次元のデータを低次元の多様体へ射影し、可視化できると述べています。潜在変数の事前分布の例には、平均0・単位共分散の多次元ガウス分布が置かれています。

一次資料: Kingma・Welling (2013) Auto-Encoding Variational Bayes, arXiv:1312.6114 の要旨・2.1節・第3節・第5節

GAN（生成器と識別器）

GANの原論文は、敵対的な過程で生成モデルを推定する枠組みを提案しています。データの分布を捉える生成モデルGと、標本がGではなく訓練データから来た確率を推定する識別モデルDを、同時に訓練します。

Gの訓練手順は、Dが間違える確率を最大化することです。この枠組みは、2人のプレイヤーによるミニマックスゲームに対応すると、原論文は述べています。任意の関数の空間では、Gが訓練データの分布を再現し、Dがあらゆる所で1/2になる解が、ただ1つ存在します。

GとDが多層パーセプトロンなら、系全体を誤差逆伝播法で訓練できます。学習にも標本の作成にも、マルコフ連鎖や近似推論のネットワークは使わなくてよいとも述べています。

一次資料: Goodfellowほか (2014) Generative Adversarial Networks, arXiv:1406.2661 の抄録

拡散モデル（ノイズを逆にたどる）

拡散モデルの代表的な原論文（Ho・Jain・Abbeel、2020年）は、拡散確率モデルを、有限の時間でデータに合う標本を作るよう、変分推論で訓練するパラメータつきのマルコフ連鎖と説明しています。この連鎖の遷移は、拡散過程を逆にたどるように学習されます。拡散過程は、信号が壊れるまで、データへ少しずつノイズを加えるマルコフ連鎖です。

データにノイズを加える向きが拡散過程で、モデルが学習するのはその逆向きです。論文の抄録は、条件なしのCIFAR10でInceptionスコア9.46、FIDスコア3.17を得たと述べています。 256×256のLSUNでは、ProgressiveGANと同程度の標本品質です。

一次資料: Ho・Jain・Abbeel (2020) Denoising Diffusion Probabilistic Models, arXiv:2006.11239 の抄録と序論

3つの違いを並べて確認

モデル	登場する部品	学習の特徴（原論文の記述）
VAE	認識モデル q(z\|x)（確率的エンコーダ）と、p(x\|z)（確率的デコーダ）	連続な潜在変数を持つ確率モデルを、変分推論で効率よく学習する
GAN	生成モデルGと、識別モデルD	Gは、Dが間違える確率を最大化するように学習する。2人のプレイヤーのミニマックスゲームに対応する
拡散モデル	ノイズを少しずつ加える拡散過程と、それを逆にたどる遷移	拡散過程を逆にたどるよう、変分推論で訓練したマルコフ連鎖で標本を作る

「エンコーダとデコーダ」ならVAE、「生成器と識別器」ならGAN、「ノイズを逆にたどる」なら拡散モデルと、部品の名前で見分けます。各モデルの詳しい比較はGANとVAEの違いと拡散モデルとGANの違いのページで確認できます。

DCGAN・Pix2Pix・CycleGAN

シラバスのキーワード欄には、GANの派生として、DCGAN、CycleGAN、Pix2Pixも並びます。 3つは、GANの枠組みをどこに使うかが違います。

手法	原論文の記述
DCGAN	CNNの構成に制約を置いたGAN。プーリング層をストライド付き畳み込みに置き換える、バッチ正規化を使う、など5点の指針で学習を安定させた
Pix2Pix	条件付き敵対的ネットワークを、画像から画像への変換の汎用的な解決策として検討した。整列した画像のペアで学ぶ
CycleGAN	ペアの訓練データが得られない課題のために、ペアなしの画像集合から画像変換を学ぶ手法を提案した

画像変換では、ペアの画像で学ぶのがPix2Pix、ペアなしで学ぶのがCycleGANです。DCGANの5点の指針は、プーリング層をストライド付き畳み込み（識別器）と分数ストライド畳み込み（生成器）へ置き換える、生成器と識別器の両方でバッチ正規化を使う、深い構成では全結合の隠れ層を取り除く、生成器は出力層のみTanhでそれ以外はReLU、識別器は全層でLeakyReLUを使う、です。

一次資料: Radfordほか (2015) arXiv:1511.06434、Pix2Pix arXiv:1611.07004、CycleGAN arXiv:1703.10593

シラバスのどこに出るか

JDLA公式シラバス（G2024#6〜）では、関連語は次の大項目に載っています。

場所	内容
大項目5「ディープラーニングの要素技術」の生成モデル	キーワード欄に、変分オートエンコーダ（VAE）、Attention、Self-Attention、位置エンコーディング、Transformer、Encoder-Decoderが並ぶ
大項目6「ディープラーニングの応用例」の生成AI・基盤モデル	キーワード欄に、Diffusion Model、画像生成、敵対的生成ネットワーク（GAN）、DCGAN、CycleGAN、Pix2Pixなどが並ぶ

10大項目全体の位置づけは出題範囲の整理にまとめています。