G検定 用語解説
活性化関数（ReLU等）とは
ニューロンの出力を非線形に変換する関数。ReLUは勾配消失を抑え広く使われる。
まず押さえる結論
活性化関数（ReLU等）は、G検定の「大項目4 ディープラーニングの概要」で確認しておきたい用語です。 定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
- 勾配消失問題と勾配爆発の混同、およびReLUなど活性化関数による緩和の役割。
- 局所最適解・大域最適解・鞍点の区別（鞍点はある方向に極小・別方向に極大）。
- 誤差逆伝播法（バックプロパゲーション）と勾配降下法の役割の取り違え。
関連する確認問題
大項目4 ディープラーニングの概要 / ニューラルネットワークの基礎
入力を直接出力に結びつける単純な構造では表現力が足りないため、入力層と出力層の間に中間の層を追加して複雑な対応関係を表せるようにしたニューラルネットワークはどれか。
正解は多層パーセプトロン。単純パーセプトロンは入力層と出力層だけで表現力が限られるが、間に隠れ層（中間層）を加えた多層パーセプトロンにすることで複雑な対応関係を表せる。単純パーセプトロンは改良前の構造そのもので誤り。オートエンコーダは入力を再現する別目的のネットワーク。畳み込みニューラルネットワークは画像処理向けの別構造（大項目5）。
大項目4 ディープラーニングの概要 / ニューラルネットワークの基礎
ニューロンが受け取る複数の入力それぞれに掛け合わされ、その入力が出力にどれだけ影響するかを表す、学習によって調整される数値はどれか。
正解は重み。各入力に掛け合わされて重要度を表すのは重み。バイアスは入力に加算される定数項で発火のしやすさを調整するもので、掛け合わせる係数ではない。活性化関数は重み付き和を非線形に変換する関数。学習率は更新の歩幅を決める値で、入力ごとの係数ではない。
大項目4 ディープラーニングの概要 / 学習の仕組み
出力で生じた誤差を出力側の層から入力側の層へ向かってさかのぼらせ、各重みをどれだけ修正すべきかを計算する学習手法はどれか。
正解は誤差逆伝播法。出力の誤差を出力層側から入力層側へ逆向きに伝え、各重みの修正量（勾配）を求める手法。確率的勾配降下法は求めた勾配を使ってパラメータを更新する方法であり、誤差を逆向きに伝える手続きそのものではない。主成分分析は次元削減（大項目3）、交差検証はモデル評価法（大項目3）で学習手法ではない。
同じ章で確認したい用語
到達チェック
- 活性化関数（ReLU等）を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、活性化関数（ReLU等）に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる