G検定 用語解説
勾配降下法とは
損失関数の勾配（傾き）をたどり、損失が小さくなる方向へ少しずつ重みを更新していく最適化の手法。
まず押さえる結論
勾配降下法は、G検定の「大項目4 ディープラーニングの概要」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×勾配消失問題と勾配爆発の混同、およびReLUなど活性化関数による緩和の役割。
×局所最適解・大域最適解・鞍点の区別（鞍点はある方向に極小・別方向に極大）。
×誤差逆伝播法（バックプロパゲーション）と勾配降下法の役割の取り違え。
関連する確認問題
大項目4 ディープラーニングの概要 / 学習の仕組み
出力で生じた誤差を出力側の層から入力側の層へ向かってさかのぼらせ、各重みをどれだけ修正すべきかを計算する学習手法はどれか。
正解は誤差逆伝播法。出力の誤差を出力層側から入力層側へ逆向きに伝え、各重みの修正量（勾配）を求める手法。確率的勾配降下法は求めた勾配を使ってパラメータを更新する方法であり、誤差を逆向きに伝える手続きそのものではない。主成分分析は次元削減（大項目3）、交差検証はモデル評価法（大項目3）で学習手法ではない。 選択肢を切るときは、設問の条件を「誤差逆伝播法（バックプロパゲーション）」「確率的勾配降下法（SGD）」「重み」のどれに結び付けるかを先に固定する。「交差検証（クロスバリデーション）」、「確率的勾配降下法（SGD）」、「主成分分析（PCA）」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「誤差逆伝播法（バックプロパゲーション）」は、問われている定義や状況に最も直接対応する点で選べる。
大項目4 ディープラーニングの概要 / 学習の仕組み
勾配降下法で、重みを一度にどの程度動かすかを決めるハイパーパラメータはどれか。
正解は「学習率」である。学習率は勾配降下法でパラメータを更新する幅を決める値であり、大きすぎると発散、小さすぎると学習が遅くなることがある。エポックは学習データ全体を何回使ったか、バッチサイズは一度に処理するデータ数、損失関数は予測のずれを測る関数である。 選択肢を切るときは、設問の条件を「勾配降下法」「学習率」「エポック」のどれに結び付けるかを先に固定する。「エポック」、「バッチサイズ」、「損失関数」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「学習率」は、問われている定義や状況に最も直接対応する点で選べる。
大項目4 ディープラーニングの概要 / 学習の仕組み
ニューラルネットワークの学習で、モデルの予測と正解との誤差の大きさを数値化し、その値が小さくなるように重みを更新する際の基準となる関数はどれか。
正解は損失関数。モデルの予測と正解のずれを1つの数値で表し、学習ではこの値を最小化するように誤差逆伝播法と勾配降下法で重みを調整する。活性化関数は各ニューロンの出力を非線形に変換する関数、学習率は1回の更新で重みをどれだけ動かすかを決める値、正則化は過学習を抑えるために損失に罰則を加える工夫で、いずれも誤差そのものを測る損失関数とは役割が異なる。 選択肢を切るときは、設問の条件を「損失関数」「誤差逆伝播法（バックプロパゲーション）」「勾配降下法」のどれに結び付けるかを先に固定する。「学習率」、「活性化関数」、「正則化」は名称が近い、または同じ分野に見える場合があるが、対象・役割・前提が設問文とずれる。正解の「損失関数」は、問われている定義や状況に最も直接対応する点で選べる。
同じ章で確認したい用語
到達チェック
- 勾配降下法を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、勾配降下法に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる