G検定 用語解説
過学習(オーバーフィッティング)とは
モデルが訓練データに適合しすぎて、未知のデータに対する性能(汎化性能)が下がってしまう状態。
まず押さえる結論
過学習(オーバーフィッティング)は、G検定の「大項目3 機械学習の概要」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×教師あり・教師なし・強化学習の分類の取り違え(分類/回帰=教師あり、クラスタリング/次元削減=教師なし)。
×L1正則化(ラッソ=係数が0になり変数選択も兼ねる)とL2正則化(リッジ=係数を小さく抑えるが0にはなりにくい)の混同。
×適合率(精度)と再現率の取り違え、および混同行列の読み方。
関連する確認問題
大項目3 機械学習の概要 / モデルの評価と過学習
訓練データに対しては高い精度を示すのに、未知のテストデータに対する精度が大きく下がってしまい、汎化性能が低い状態を何というか。
正解は「過学習」である。訓練データに適合しすぎて未知データへの汎化性能が下がる状態は過学習。未学習は訓練データにも十分適合できず訓練・テストともに精度が低い状態で逆の現象。正則化は過学習を抑えるための手法であって状態の名称ではない。交差検証は汎化性能を見積もる評価手法であり、状態を指す語ではない。 選択肢を切るときは、設問の条件を「過学習(オーバーフィッティング)」「未学習(アンダーフィッティング)」「正則化」のどれに結び付けるかを先に固定する。「正則化」、「交差検証」、「未学習」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「過学習」は、問われている定義や状況に最も直接対応する点で選べる。
大項目3 機械学習の概要 / モデルの評価と過学習
モデルが単純すぎることで生じる系統的な誤差と、訓練データのわずかな違いに敏感に反応することで生じる誤差の、トレードオフの関係にある2つの誤差要因をまとめて何と呼ぶか。
正解はバイアスとバリアンス。バイアスはモデルが単純すぎて真の関係を捉えきれないことによる誤差、バリアンスは訓練データの偏りに過敏に反応してばらつく誤差を指し、両者は一方を下げると他方が上がりやすいトレードオフの関係にある。適合率と再現率は分類性能の指標の組、訓練データとテストデータは学習と評価に用いるデータの区分、L1・L2正則化は過学習を抑える手法で、いずれも誤差を2要因に分解するこの概念とは異なる。 選択肢を切るときは、設問の条件を「バイアスとバリアンス」「過学習(オーバーフィッティング)」のどれに結び付けるかを先に固定する。「L1正則化とL2正則化」、「適合率と再現率」、「訓練データとテストデータ」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「バイアスとバリアンス」は、問われている定義や状況に最も直接対応する点で選べる。
大項目3 機械学習の概要 / 前処理とハイパーパラメータ
訓練データの量や学習の反復回数を横軸に、訓練データと検証データに対する性能(誤差)の推移を縦軸にとって描き、過学習や未学習の傾向を診断するのに使うグラフはどれか。
正解は学習曲線。データ量や反復回数に対して訓練誤差と検証誤差がどう変化するかを描き、両者の開き方から過学習や未学習を判断できる。ROC曲線は分類のしきい値を変えたときの真陽性率と偽陽性率の関係を示す曲線、エルボー法はクラスタリングで適切なクラスタ数を選ぶ手法、混同行列は予測と実際の対応を表にまとめたもので、いずれも学習の進行そのものを診断する学習曲線とは異なる。 選択肢を切るときは、設問の条件を「学習曲線」「過学習(オーバーフィッティング)」のどれに結び付けるかを先に固定する。「混同行列」、「ROC曲線」、「エルボー法」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「学習曲線」は、問われている定義や状況に最も直接対応する点で選べる。
同じ章で確認したい用語
到達チェック
- 過学習(オーバーフィッティング)を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、過学習(オーバーフィッティング)に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる