G検定 用語解説
勾配爆発問題とは
誤差逆伝播で勾配の値が層を重ねるごとに大きくなり、パラメータの更新幅が発散してしまう問題。層が深いネットワークや再帰型ネットワークで起こりやすく、勾配が小さくなりすぎる勾配消失問題とは逆方向の不安定さを表す。
まず押さえる結論
勾配爆発問題は、G検定の「大項目4 ディープラーニングの概要」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-07-03。
試験概要(公式)試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×勾配消失問題と勾配爆発の混同、およびReLUなど活性化関数による緩和の役割。
×局所最適解・大域最適解・鞍点の区別(鞍点はある方向に極小・別方向に極大)。
×誤差逆伝播法(バックプロパゲーション)と勾配降下法の役割の取り違え。
関連する確認問題
大項目4 ディープラーニングの概要 / 学習の仕組み
ネットワークの層を深くしたとき、シグモイド関数などの微分値が1未満で小さいために、入力層に近い層ほど重みの更新がほとんど進まなくなる現象はどれか。
正解は勾配消失問題。シグモイド関数は微分値が1未満の小さい範囲にとどまり、誤差逆伝播で層をさかのぼるたびにこの小さな値が繰り返し掛け合わされるため、入力層に近い層に伝わる更新量は次第に小さくなり、ほとんど学習が進まなくなる。過学習は訓練データに適合しすぎて未知データへの予測精度が下がる現象であり、更新量が層を伝わりにくくなることとは別の問題である。次元削減はデータの特徴量の数を減らす前処理であり、層の深さや微分値の大きさとは関係しない。信用割当問題は、結果に対してネットワークのどの部分がどれだけ寄与したかを特定するという学習全般に関わる課題を指す言葉で、微分値が小さいために更新量が減衰するという具体的な仕組みそのものを指すものではない。
大項目4 ディープラーニングの概要 / 学習の仕組み
入力されたデータと同じものを出力するように学習させ、その過程で隠れ層に得られる低次元の表現を特徴抽出や事前学習に利用するネットワークはどれか。
正解はオートエンコーダ。入力と同じものを出力するよう学習させることで、途中の隠れ層に入力を圧縮した低次元の表現を獲得し、その表現を特徴抽出や他タスクの事前学習に利用する。多層パーセプトロンは入力層・隠れ層・出力層を持つ一般的な構造だが、学習の目標は入力の再現ではなく、与えられた入出力関係(分類や回帰の答え)を近似することにあり、入力を再現させる制約は課さない。単純パーセプトロンは隠れ層を持たない最も単純な構造で、低次元表現を学習する余地がない。畳み込みニューラルネットワークは画像などの空間構造を持つデータに畳み込み層・プーリング層を適用する専用構造で、目的は分類や検出であり、入力の再現を学習目標とする構造ではない。
大項目4 ディープラーニングの概要 / 活性化関数と過学習対策
出力層で用いられ、各クラスに対する出力値を合計が1になるように変換することで、多クラス分類の確率分布として解釈できるようにする関数はどれか。
正解はソフトマックス関数。各クラスに対応する出力値を指数関数で変換したうえで正規化し、全出力の合計が1になるようにすることで、多クラス分類の確率分布として解釈できるようにする関数である。シグモイド関数は各入力を独立に0〜1の範囲へ変換するが、複数の出力ノードそれぞれの値を合計しても1になる保証はなく、多クラスの確率分布を作る関数ではない。tanh関数は各入力を独立に-1〜1の範囲へ変換する関数で、合計を1にする性質を持たない。ReLU関数は入力が0以下なら0、正ならそのまま出力する関数で、出力値には上限がなく確率として解釈できる範囲に収まらない。
同じ章で確認したい用語
到達チェック
- 勾配爆発問題を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、勾配爆発問題に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部(運営者情報を見る)