用語比較
最尤推定とベイズ推定の違い|事前分布の有無と、点で答えるか分布で答えるか(G検定)
最尤推定は、観測したデータが最も起こりやすくなるパラメータを1つの値で求める方法です。ベイズ推定は、データを見る前の考え(事前分布)とデータの尤度をベイズの定理で組み合わせ、パラメータの分布(事後分布)で答える方法です。
G検定では、最尤法が損失関数の導出に出てくるのに加え、ベイズの考え方が確率や学習の設問に出ます。1つの値で答えるのが最尤推定、分布で答えるのがベイズ推定と覚えると、選択肢を整理できます。
このページは、教科書『Deep Learning』(Goodfellow・Bengio・Courville)の機械学習の基礎の章をもとに、事前分布・出力の形・MAP推定の3点で比べます。数値の例は、説明用の架空のコイン投げです。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。
結論
最尤推定
データの尤度が最大になるパラメータを1つ選ぶ。事前分布は使わない。予測は、その1つの値(点推定)で行う。
ベイズ推定
事前分布 p(θ) とデータの尤度を、ベイズの定理で組み合わせて事後分布 p(θ|データ) を求める。予測は、パラメータの分布全体を使って行う。
MAP推定
事後確率が最大になる1点を選ぶ。式では、対数尤度に事前分布の対数 log p(θ) を足したものを最大にする。ベイズの考えを点推定に取り込んだ方法。
違いを表で確認
| 比較軸 | 最尤推定 | ベイズ推定 |
|---|---|---|
| 事前分布 | 最尤推定:使わない。データの尤度だけで決める | ベイズ推定:使う。データを見る前の知識の確からしさを p(θ) で表す |
| パラメータの扱い | 最尤推定:未知だが決まった1つの値を探す | ベイズ推定:未知で不確かなものとして、確率変数で表す |
| 答えの形 | 最尤推定:1つの値(点推定) | ベイズ推定:事後分布。予測にもパラメータの分布全体を使う |
| 求め方 | 最尤推定:対数尤度を最大にする。負の対数尤度を最小にすることと同じで、最も一般的なコスト関数になる | ベイズ推定:尤度に事前分布をかけ、ベイズの定理で事後分布を求める。複雑なモデルでは扱いにくいことが多い |
| データが少ないとき | 最尤推定:データだけで決まるので、少数のデータの偏りがそのまま出る | ベイズ推定:事前分布が結果を引き寄せる。データが増えるほど、データの影響が大きくなる |
| 中間の方法 | 最尤推定:事前分布の影響は入らない | MAP推定:事前分布を使いつつ、答えは点で出す。事前分布が一様なら最尤推定と同じ点になる |
G検定の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
「事前分布」の語が出て、どちらか分からない人
事前分布を使うのはベイズ推定とMAP推定です。最尤推定は事前分布を使わず、尤度だけで決めます。
損失関数と最尤法の関係を聞かれる人
教科書の機械学習の基礎の章では、最尤法は負の対数尤度(交差エントロピー)の最小化と同じで、最も一般的なコスト関数だと説明されています。これは最尤推定の側の話です。
「点推定」と「分布」の違いで迷う人
最尤推定の予測は点推定で行い、ベイズ推定の予測はパラメータの分布全体を使います。選択肢に「分布全体」とあればベイズ推定です。
MAP推定を最尤推定の仲間だと思っている人
MAP推定の式には、最尤推定と同じ対数尤度に、事前分布の対数が足されます。事前分布を使う点でベイズ側の発想ですが、答えは1点です。
具体例で使い分ける
例 1
コインを10回投げて7回表が出た(架空のデータ)
表が出る確率θを推定します。ベイズ推定の事前分布には、θが0から1まで一様なベータ分布 Beta(1, 1) を置きます。
- 最尤推定は、表の割合そのものの 7÷10=0.7 です。
- Beta(1, 1) を事前分布にすると、事後分布は Beta(8, 4) になります。事後分布の平均は 8÷12≒0.667、事後確率が最大の点(MAP推定)は 0.7 です。
結論: 事前分布が一様なら、MAP推定は最尤推定と同じ0.7です。ベイズ推定は点ではなく、Beta(8, 4) という分布を答えにします。
例 2
コインを1回だけ投げて表が出た(架空のデータ)
表が出る確率θを推定します。ベイズ推定の事前分布には、0.5付近を好む Beta(2, 2) を置きます。
- 最尤推定は 1÷1=1.0 で、「裏は絶対に出ない」という結論になります。
- 事後分布は Beta(3, 2) です。平均は 3÷5=0.6、MAP推定は 2÷3≒0.667 で、1.0より穏やかな値になります。
結論: データが少ないと最尤推定は偏りがそのまま出ます。事前分布を使うと、結果がその分だけ引き寄せられます。
問題文から答えを選ぶ手順
- 1
事前分布の語を探す
「事前分布」「事後分布」「ベイズの定理」が出たら、ベイズ推定かMAP推定です。「尤度を最大にする」だけなら最尤推定です。
- 2
答えの形を読む
「1つの値」「点推定」なら最尤推定かMAP推定、「分布」「分布全体で予測」ならベイズ推定です。
- 3
MAP推定を区別する
尤度に事前分布の対数を足して最大化する、事後確率が最大の点を選ぶ、という記述ならMAP推定です。
- 4
データ量の記述を確かめる
データが少なく結果が偏る話は最尤推定の弱点として、事前分布が結果を引き寄せる話はベイズ側の特徴として読みます。
試験での見分け方
- 1事前分布を使わず尤度を最大にするのが最尤推定。
- 2事前分布と尤度から事後分布を求め、分布で答えるのがベイズ推定。
- 3事後確率が最大の1点を選ぶのがMAP推定。
- 4一様な事前分布なら、MAP推定は最尤推定と同じ点になる。
誤答しやすい選択肢
ベイズ推定の答えも1つの値だと考える
修正: ベイズ推定の基本の答えは事後分布です。1点で答える場合は、事後確率が最大の点を選ぶMAP推定など、別の方法を指します。
MAP推定と最尤推定はいつも同じ結果になると考える
修正: 同じになるのは、事前分布が一様のような場合です。事前分布が偏っていれば、MAP推定は最尤推定とは別の点になります。
最尤推定にも事前分布があると考える
修正: 最尤推定は、データの尤度だけでパラメータを決めます。事前分布を使うのは、ベイズ推定とMAP推定です。
確認問題
Q110回のコイン投げで表が7回出たとき、表の確率の最尤推定値は?
答え: 0.7
ベルヌーイ試行の最尤推定値は表の割合 7÷10=0.7 です。
Q2最尤推定とは違い、ベイズ推定が予測に使うものは?
答え: パラメータの分布全体
教科書『Deep Learning』は、最尤法がパラメータθの点推定で予測するのに対し、ベイズ推定はθの分布全体を使って予測すると説明しています。
Q3MAP推定の目的関数は、最尤推定の対数尤度に何を足したもの?
答え: 事前分布の対数 log p(θ)
同書の式では、MAP推定は log p(x|θ) + log p(θ) を最大にします。前者が通常の対数尤度、後者が事前分布に当たります。
到達チェック
- 事前分布を使うのはベイズ推定とMAP推定だと言える
- 最尤推定は点推定、ベイズ推定は分布全体で予測すると言える
- MAP推定が、対数尤度に事前分布の対数を足した最大化だと言える
関連ページで確認する
同じ資格で次に知りたいこと
- 正解率とF値(F1)の違い|偏ったデータでF1を見る理由(G検定・DS検定)
正解率とF値(F1)の違いを、式・真陰性を使うかどうか・陽性が少ないデータでの数値の差で整理。計算例と確認問題つき。G検定・DS検定の評価指標の判断に使える。
- バッチ・ミニバッチ・確率的勾配降下法の違い|1回の更新に使うデータ数で見分ける(G検定)
バッチ勾配降下法・ミニバッチ勾配降下法・確率的勾配降下法(SGD)の違いを、1回の更新に使うデータ数・更新の回数・勾配の正確さで整理。1000件の計算例と確認問題つき。G検定の学習の仕組みの設問に使える。
- 生成モデルと識別モデルの違い|同時確率を学ぶか、ラベルの確率を直接学ぶか(G検定)
生成モデルと識別モデルの違いを、同時確率p(x,y)と事後確率p(y|x)、学習データの量による得意不得意、GANのGとDの役割で整理。G検定での判断手順と確認問題つき。
よくある質問
Q最尤推定とベイズ推定は、どちらが優れている?
どちらが優れるかは状況で決まります。データが十分にあれば両者の差は小さくなり、データが少ないときは事前分布の影響が大きくなります。試験では、事前分布を使うか・答えが点か分布かで見分けます。
Qベイズ推定が複雑なモデルで使いにくいのはなぜ?
教科書『Deep Learning』は、興味のあるモデルの多くで事後分布を使う計算が扱いにくく、点推定が計算しやすい近似になると説明しています。そのため、事前分布を取り入れたMAP推定がよく使われます。
QMAP推定は最尤推定とベイズ推定のどちら側?
事前分布を使う点ではベイズの発想で、答えが1点である点では最尤推定と同じ点推定です。両者の中間の方法と整理できます。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部(運営者情報を見る)
