用語比較

層正規化とバッチ正規化の違い｜正規化の単位と学習時・予測時の計算（G検定）

層正規化とバッチ正規化は、どちらも層への総入力を正規化して学習を安定させる手法です。違いは、平均と分散を何から求めるかにあります。バッチ正規化はミニバッチ内の学習例にわたって求め、層正規化は1つの学習例について層内のすべてのニューロンから求めます。

G検定のシラバス語にはバッチ正規化があり、層正規化はTransformerを学ぶときに出てくる関連語です。Transformerの原論文は、各副層の周りに残差接続を置いたうえで層正規化をかけ、出力をLayerNorm(x + Sublayer(x))と書いています。ミニバッチ単位で求めるならバッチ正規化、1つの学習例の中で層ごとに求めるなら層正規化、と最初に切り分けます。

このページでは、正規化の単位、ミニバッチの大きさとの関係、学習時と予測時の計算、再帰型での扱いという四つの軸で比較します。いずれも層正規化の原論文（Ba・Kiros・Hinton、arXiv:1607.06450）の記述を根拠にしています。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。

結論

バッチ正規化

ミニバッチ内の学習例にわたるニューロンへの総入力から平均と分散を求めて正規化する。効果はミニバッチの大きさに依存し、再帰型への適用は自明でない。

層正規化

1つの学習例について、層内のすべてのニューロンへの総入力から平均と分散を求めて正規化する。ミニバッチの大きさに制約がなく、学習時とテスト時で同じ計算を行う。

違いを表で確認

比較軸	バッチ正規化	層正規化
平均と分散を求める範囲	ミニバッチ内の学習例にわたる、1つのニューロンへの総入力	1つの学習例における、層内のすべてのニューロンへの総入力
正規化の項の共有	ミニバッチ内の学習例が正規化の項を共有する	層内のすべての隠れユニットが同じ項を共有し、学習例が違えば項も違う
ミニバッチの大きさとの関係	効果がミニバッチの大きさに依存する	大きさに制約がなく、バッチサイズ1のオンライン学習でも使える
学習時とテスト時の計算	学習時とテスト時で計算が異なる	学習時とテスト時でまったく同じ計算を行う
再帰型ニューラルネットワーク	適用方法が自明でない。時刻ごとの統計量が必要になる	時刻ごとに別々に統計量を計算でき、現在の時刻の総入力だけに依存する
バイアスとゲイン	各ニューロンが適応的なバイアスとゲインを持つ	同様に各ニューロンが持ち、正規化の後、非線形関数の前に適用する
選択肢で探すキーワード	ミニバッチ、内部共変量シフト、より高い学習率	層内、1つの学習例、バッチサイズに依存しない、再帰型、Transformer

G検定の学習に使う書籍（Amazon）

試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。

深層学習教科書ディープラーニング G検定（ジェネラリスト）公式テキスト第3版の表紙

深層学習教科書ディープラーニング G検定（ジェネラリスト）公式テキスト第3版試験を実施する日本ディープラーニング協会が監修した公式テキストです。Amazonで見る

ほかの資格を含む参考書・問題集の一覧を見る

どこで迷っているかを切り分ける

正規化の手法を一まとめに覚えている人

どちらも総入力の平均と分散で正規化する点は共通です。ただし設問が正規化の単位を尋ねているときは、ミニバッチ内の学習例にわたるか、1つの学習例の中の層全体かで答えが分かれます。

Transformerを学んでいて層正規化に出会った人

Transformerの原論文は、各副層の出力にLayerNorm(x + Sublayer(x))の形で層正規化を使います。層正規化の原論文は、文の長さが学習例ごとに違う自然言語処理の系列モデルで、バッチ正規化は時刻ごとの統計量を保存する必要があり、層正規化にはその問題がないと述べています。

バッチサイズを小さくしたときの影響を考える人

バッチ正規化の効果はミニバッチの大きさに依存します。層正規化は大きさに制約がなく、バッチサイズ1でも使えます。ミニバッチを小さくせざるを得ない場面で、設問がどちらの手法を想定しているかを確かめます。

具体例で使い分ける

例 1

設問が「ミニバッチ内の学習例にわたって平均と分散を求める」と述べるとき

手法名を選ぶ設問で、統計量を求める範囲だけが書かれています。

ミニバッチ内の学習例にわたってニューロンへの総入力の平均と分散を求めるのは、バッチ正規化です。
層正規化は1つの学習例の中で、層内のすべてのニューロンから求めます。

結論: ミニバッチにわたる統計量が決め手なら、バッチ正規化を選びます。

例 2

設問が「ミニバッチの大きさに制約がなく、バッチサイズ1でも使える」と述べるとき

手法の利点を尋ねる設問で、ミニバッチの大きさに触れています。

原論文は、層正規化がミニバッチの大きさに制約を課さず、バッチサイズ1の純粋なオンライン学習でも使えると述べます。
バッチ正規化の効果はミニバッチの大きさに依存します。

結論: バッチサイズに依存しないことが決め手なら、層正規化を選びます。

例 3

設問が「学習時とテスト時でまったく同じ計算を行う」と述べるとき

手法の特徴を尋ねる設問で、学習時と予測時の違いに触れています。

原論文は、バッチ正規化と異なり、層正規化は学習時とテスト時でまったく同じ計算を行うと述べます。
同じ計算を行うという特徴は、層正規化の側の記述です。

結論: 学習時とテスト時で計算が変わらないことが決め手なら、層正規化を選びます。

問題文から答えを選ぶ手順

1
統計量を求める範囲を探す
ミニバッチ内の学習例にわたるとあればバッチ正規化、1つの学習例の層内のニューロンからとあれば層正規化です。
2
ミニバッチの大きさへの言及を見る
ミニバッチの大きさに依存するとあればバッチ正規化、バッチサイズ1でも使えるとあれば層正規化です。
3
学習時とテスト時の違いを見る
学習時とテスト時でまったく同じ計算を行うとあれば層正規化です。
4
再帰型やTransformerへの言及を見る
再帰型で時刻ごとに統計量を計算する、またはTransformerの副層の出力に使うとあれば層正規化です。

試験での見分け方

1ミニバッチ内の学習例にわたって平均と分散を求めるのはバッチ正規化。
21つの学習例について、層内のすべてのニューロンから平均と分散を求めるのは層正規化。
3効果がミニバッチの大きさに依存するのはバッチ正規化。
4ミニバッチの大きさに制約がなく、バッチサイズ1でも使えるのは層正規化。
5学習時とテスト時でまったく同じ計算を行うのは層正規化。
6Transformerの各副層の出力にLayerNorm(x + Sublayer(x))として使われるのは層正規化。

誤答しやすい選択肢

層正規化もミニバッチ単位で正規化すると思う

修正: 層正規化はミニバッチにわたって統計量を求めません。1つの学習例について、層内のすべてのニューロンへの総入力から平均と分散を求めます。

層正規化にはバイアスとゲインがないと思う

修正: 原論文によれば、バッチ正規化と同様に、層正規化でも各ニューロンが適応的なバイアスとゲインを持ち、正規化の後、非線形関数の前に適用します。

どちらも学習時とテスト時で計算が同じだと思う

修正: 原論文が学習時とテスト時でまったく同じ計算を行うと述べるのは、層正規化の側です。バッチ正規化と異なる点として挙げられています。

バッチ正規化の目的を層正規化にも当てはめる

修正: 層正規化の原論文は、バッチ正規化の欠点（ミニバッチの大きさへの依存、再帰型への適用の難しさ）を避ける手法として層正規化を位置づけています。設問の記述が欠点の回避に触れていれば層正規化を疑います。

確認問題

Q11つの学習例について、層内のすべてのニューロンへの総入力から平均と分散を求めて正規化する手法はどちらですか？

答え: 層正規化

層正規化は、層内のすべての隠れユニットが同じ正規化の項を共有し、学習例ごとに項が異なります。

Q2効果がミニバッチの大きさに依存し、再帰型ニューラルネットワークへの適用方法が自明でない手法はどちらですか？

答え: バッチ正規化

層正規化の原論文は、バッチ正規化の効果がミニバッチの大きさに依存し、再帰型への適用が自明でないことを動機に、層正規化を提案しています。

Q3学習時とテスト時でまったく同じ計算を行い、バッチサイズ1でも使える手法はどちらですか？

答え: 層正規化

層正規化はミニバッチの大きさに制約がなく、学習時とテスト時で同じ計算を行います。

到達チェック

バッチ正規化が平均と分散を求める範囲を説明できる
層正規化が平均と分散を求める範囲を説明できる
ミニバッチの大きさとの関係の違いを説明できる
学習時とテスト時の計算の違いがどちらに当たるか答えられる
TransformerでLayerNorm(x + Sublayer(x))が使われることを説明できる

同じ資格で次に知りたいこと

主成分分析とt-SNEの違い｜線形の次元削減と可視化向きの非線形な埋め込み（G検定）
主成分分析（PCA）とt-SNEの違いを、線形か非線形か、重視する構造（全体か近傍か）、計算の重さ、結果の安定性、使い分けまで、scikit-learn公式ドキュメントに沿って整理します。G検定の確認問題つきです。
モンテカルロ法とモンテカルロ木探索の違い｜ランダムな模擬対局の使い方と探索木の育て方（G検定）
モンテカルロ法とモンテカルロ木探索の違いを、終局までのランダムな模擬対局（プレイアウト）の使い方、探索木に結果を残すかどうか、AlphaGoとの関係で整理します。作例で評価の流れを追い、G検定の探索・推論とAIブームの問題で迷わない判断手順と確認問題も掲載します。
不均衡データの扱い（オーバーサンプリング・アンダーサンプリング・クラスの重み付けの違い）
不均衡データへの3つの対処、オーバーサンプリング・アンダーサンプリング・クラスの重み付けの違いを、データを変えるか損失の重みを変えるかの軸と、正解率だけで評価できない理由、G検定での判断手順、確認問題まで公式ドキュメントに沿って解説します。

よくある質問

Q層正規化とバッチ正規化の一番大きな違いは何ですか？

平均と分散を求める範囲です。バッチ正規化はミニバッチ内の学習例にわたって求め、層正規化は1つの学習例の層内のすべてのニューロンから求めます。

Q層正規化はバッチサイズが小さくても使えますか？

はい。原論文は、層正規化がミニバッチの大きさに制約を課さず、バッチサイズ1の純粋なオンライン学習でも使えると述べています。

Q層正規化は学習時と予測時で計算が変わりますか？

変わりません。原論文は、バッチ正規化と異なり、層正規化は学習時とテスト時でまったく同じ計算を行うと述べています。

Q層正規化はTransformerのどこで使われますか？

原論文は、Transformerの各副層の周りに残差接続を置いたうえで層正規化をかけ、出力をLayerNorm(x + Sublayer(x))とすると述べています。

次に見る比較

G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
ベイズの定理と条件付き確率の違い（統計検定2級の式と計算例）
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。

シェア:Xでシェア LINEでシェア

執筆: ミナト編集部（運営者情報を見る）