G検定 用語解説
ドロップアウトとは
学習時に一部のニューロンをランダムに無効化し、過学習を抑えてモデルの汎化性能を高める手法。
まず押さえる結論
ドロップアウトは、G検定の「大項目4 ディープラーニングの概要」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
混同しやすい用語との差
正則化 / ドロップアウト
正則化は、モデルの複雑さを抑えて過学習を防ぐ考え方です。
ドロップアウトは、学習時に一部のユニットを無効化して過学習を抑える手法です。
見分け方: 広い対策概念か、その一つの具体的手法かを見ます。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×勾配消失問題と勾配爆発の混同、およびReLUなど活性化関数による緩和の役割。
×局所最適解・大域最適解・鞍点の区別（鞍点はある方向に極小・別方向に極大）。
×誤差逆伝播法（バックプロパゲーション）と勾配降下法の役割の取り違え。
関連する確認問題
大項目4 ディープラーニングの概要 / 活性化関数と過学習対策
学習の各ステップで一部のノードを一定の割合でランダムに使わないようにすることで、特定のノードへの依存を防ぎ過学習を抑制する手法はどれか。
正解はドロップアウト。学習時にノードを一定割合でランダムに無効化し、特定ノードへの依存を防いで過学習を抑える。バッチ正規化は層の出力分布を正規化する手法、早期終了は検証誤差が悪化する前に学習を止める手法、重みの初期化は学習開始時の重みの与え方であり、いずれもノードのランダム無効化ではない。 選択肢を切るときは、設問の条件を「ドロップアウト」「バッチ正規化」「早期終了（early stopping）」のどれに結び付けるかを先に固定する。他の選択肢は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「ドロップアウト」は、問われている定義や状況に最も直接対応する点で選べる。
大項目4 ディープラーニングの概要 / 活性化関数と過学習対策
各層に入力されるデータ（ミニバッチ）の分布を層ごとに正規化することで、学習を安定させ収束を速める効果があるとされる手法はどれか。
正解は「バッチ正規化」である。バッチ正規化は、各層に入力されるミニバッチのデータ分布を正規化することで、学習を安定させ収束を速める効果があるとされる手法である。ドロップアウトはノードをランダムに無効化して過学習を抑える手法、早期終了は検証誤差が悪化し始めた時点で学習を止める手法、データ拡張は学習データを人工的に増やす手法であり、いずれも層の入力分布を正規化する手法ではない。 選択肢を切るときは、設問の条件を「バッチ正規化」「ドロップアウト」「早期終了（early stopping）」のどれに結び付けるかを先に固定する。「ドロップアウト」、「データ拡張」、「早期終了」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「バッチ正規化」は、問われている定義や状況に最も直接対応する点で選べる。
大項目4 ディープラーニングの概要 / 活性化関数と過学習対策
学習を進める中で、検証データに対する誤差が悪化し始めた時点で学習を打ち切ることにより、過学習を防ぐ手法はどれか。
正解は「早期終了（early stopping）」である。早期終了（early stopping）は、学習を進める中で検証データに対する誤差が悪化し始めた時点で学習を打ち切ることで、過学習を防ぐ手法である。ドロップアウトはノードをランダムに無効化する手法、データ拡張は学習データを人工的に増やす手法、バッチ正規化は層の入力分布を正規化する手法であり、いずれも検証誤差の悪化を合図に学習を止める手法ではない。 選択肢を切るときは、設問の条件を「早期終了（early stopping）」「ドロップアウト」「バッチ正規化」のどれに結び付けるかを先に固定する。「ドロップアウト」、「データ拡張」、「バッチ正規化」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「早期終了（early stopping）」は、問われている定義や状況に最も直接対応する点で選べる。
同じ章で確認したい用語
到達チェック
- ドロップアウトを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、ドロップアウトに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる