ドロップアウトとは

まず押さえる結論

ドロップアウトは、G検定の「大項目4 ディープラーニングの概要」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。

比較記事でさらに確認する

具体例から判断の境界を固める

正則化という広い考え方の一つとして、学習時に一部のユニットを無効化する具体的な手法だと捉える

ネットワークの学習が進むにつれて、特定のユニットの組み合わせに依存しすぎてしまうと、訓練データには強く適合する一方で未知データへの対応力が落ちやすくなります。ドロップアウトは、学習の各ステップで一部のユニットを一定の割合でランダムに選び、一時的に無効化しながら学習を進める手法です。特定のユニットの組み合わせへの依存を防ぐことで、過学習を抑えて汎化性能を高めます。推論（テスト）時にはランダムな無効化を行わず、学習時とは扱いを変える点も押さえておきます。

問題文で見る箇所

「一部のノード（ユニット）をランダムに無効化する」「学習の各ステップで」という記述があればドロップアウトを候補にします。過学習対策という目的だけで即断せず、無効化するのが具体的にユニットなのか、バッチ正規化のように出力分布を整える処理なのか、早期終了のように学習全体を打ち切る処理なのかを区別します。

隣接概念との境界

正則化は過学習を抑えるための広い考え方で、ドロップアウトはその具体的な手法の一つです。バッチ正規化はミニバッチ単位で層の出力分布を整える手法、早期終了は検証誤差の悪化を見て学習そのものを打ち切る手法であり、いずれもユニットを無効化する処理ではないため、ドロップアウトとは操作の対象が異なります。

誤答しやすい選択肢

• ×ドロップアウトを、ミニバッチ単位で層の出力分布を整えるバッチ正規化と同じ処理として扱う。ドロップアウトはユニットの無効化、バッチ正規化は出力分布の調整で対象が異なります。
• ×ドロップアウトを、検証誤差の悪化を見て学習全体を打ち切る早期終了と同じ処理として扱う。ドロップアウトは一部のユニットだけを無効化し、ネットワーク全体の学習を止めるわけではありません。
• ×推論時にも学習時と同じようにユニットをランダムに無効化し続けると考える。推論時は学習時と扱いを変える点が、ドロップアウトの説明で問われることがあります。

4段階の判断手順

1. 01過学習対策という目的だけで判断せず、何を無効化・調整する処理かを具体的に読む。
2. 02「一部のユニットをランダムに無効化」という記述があるかを確認する。
3. 03バッチ正規化（出力分布の調整）、早期終了（学習全体の打ち切り）と操作の対象を区別する。
4. 04学習時と推論時で扱いが同じかどうかも設問文から確認する。

到達条件: ドロップアウトをユニットのランダムな無効化として説明し、正則化という広い概念やバッチ正規化・早期終了との違いを言える。

試験での問われ方

誤答しやすいポイント

関連する確認問題

同じ章で確認したい用語