G検定 用語解説
活性化関数(ReLU等)とは
ニューロンの出力を非線形に変換する関数。ReLUは勾配消失を抑え広く使われる。
この記事の目次
まず押さえる結論
活性化関数(ReLU等)は、G検定の「大項目4 ディープラーニングの概要」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-07-03。
試験概要(公式)試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×勾配消失問題と勾配爆発の混同、およびReLUなど活性化関数による緩和の役割。
×局所最適解・大域最適解・鞍点の区別(鞍点はある方向に極小・別方向に極大)。
×誤差逆伝播法(バックプロパゲーション)と勾配降下法の役割の取り違え。
関連する確認問題
大項目4 ディープラーニングの概要 / 学習の仕組み
訓練データが全部で10000件あり、これを1000件ずつのまとまりに分けて順に学習させる。この10000件すべてを1度ずつ使い終えた状態を1回と数える、学習の進み具合を表す単位はどれか。
正解はエポック。訓練データ全体を1度ずつすべて使い終えることを1回と数える単位で、学習を何巡させたかを表す。バッチサイズは1回の更新に使うデータ件数(この例では1000件)、イテレーションはパラメータを1回更新する処理の回数(この例では1エポックあたり10回)であり、どちらもデータ全体を1巡する単位ではない。学習率は更新時の歩幅を決める値で、学習の進み具合を数える単位ではない。 選択肢ごとの差は次のように整理できる。「バッチサイズ」は誤答側で、誤答。「バッチサイズ」は1回のパラメータ更新に使うデータ件数を指す語であり、この設問では1000件にあたる。10000件全体を1度使い終えた回数を数える単位ではない。「エポック」は正解側で、正解。「エポック」は訓練データ全体を1度ずつすべて使い終えることを1回と数える単位であり、学習を何巡させたかを表す。「学習率」は誤答側で、誤答。「学習率」はパラメータ更新時の歩幅を決める値であり、データを何件使ったか・何巡したかを数える単位ではない。「イテレーション」は誤答側で、誤答。「イテレーション」はパラメータを1回更新する処理の回数を指す語であり、この設問では1エポックあたり10回にあたる。データ全体を1巡した回数を数える単位ではない。
大項目4 ディープラーニングの概要 / 学習の仕組み
深い層を持つネットワークの学習が難しかった時期に、確率的に動作する単純なネットワークを部品として複数積み重ね、下の層から順に1層ずつ教師なしで事前学習することで、深いネットワーク全体の学習を実現したモデルはどれか。
正解はディープビリーフネットワーク。制限付きボルツマンマシンを部品として積み重ね、下の層から順に1層ずつ教師なしで事前学習することで、深いネットワーク全体の学習を可能にしたモデル。制限付きボルツマンマシンは、そのために積み重ねられる部品となる単一のネットワークであって、積み重ねた全体ではない。オートエンコーダは入力を再現するように学習して特徴を抽出するネットワーク、多層パーセプトロンは隠れ層を持つ基本的な順伝播型ネットワークであり、いずれも確率的な部品の積み重ねと層ごとの事前学習で構成されたモデルそのものではない。
大項目4 ディープラーニングの概要 / 学習の仕組み
勾配の移動平均による慣性の効果と、パラメータごとに学習率を適応的に調整する仕組みの両方を兼ね備えた、ディープラーニングで広く用いられる最適化アルゴリズムはどれか。
正解は「Adam」である。Adamは勾配の移動平均による慣性(モメンタム)の効果と、パラメータごとに学習率を適応的に調整する仕組みの両方を併せ持ち、ディープラーニングで広く用いられる最適化アルゴリズムである。モメンタムは慣性のみ、AdaGradとRMSPropはパラメータごとの学習率調整のみを持ち、いずれか一方の性質しか備えないため、両方を同時に備えるという設問の条件には当てはまらない。設問は2つの仕組みを同時に満たす手法を問うており、これに該当するのはAdamだけである。
同じ章で確認したい用語
到達チェック
- 活性化関数(ReLU等)を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、活性化関数(ReLU等)に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部(運営者情報を見る)