用語比較
尤度と確率の違い|固定するのがパラメータかデータか、足して1になるか(G検定)
尤度と確率の違いは固定するもので、パラメータθを固定してデータの起こりやすさを見るのが確率・確率密度、データを固定してθを動かして見るのが尤度です。尤度は、離散モデルでは確率質量 P(データ|θ)、連続モデルでは確率密度 f(データ|θ) をθの関数として見たものです。
最尤法の「尤度を最大にする」も、「θが正しい確率」を最大にするという意味ではありません。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。
- 公式一次資料と照合した内容
- 標本データの尤度が、選んだ確率分布モデルのもとでそのデータが得られる確率または確率密度であり、未知パラメータを含むこと、尤度を最大にする値が最尤推定値であることは、NIST/SEMATECH e-Handbookへ照合しています。パラメータ上で1に正規化される必要がないことは、ページ内のコイン例でも積分して確かめています。
- 編集部が学習用に整理した内容
- コイン投げの数値例と試験での判定手順は、定義を具体化するための編集部作成例です。
この記事で確認した公式資料
確率と尤度の要点
公式一次資料と照合:用語の定義は公式一次資料と照合しています。
確率
パラメータθを決めたとき、ある結果が起こる度合い。θを固定し、結果を動かして見る。離散なら確率質量の総和、連続なら確率密度の積分が1になる。
尤度
観測したデータを固定し、θを動かして見たときの、そのデータの起こりやすさ。θの関数ですが、θ上で1に正規化される必要はありません。このページのコイン例では、θについての積分は1/1320です。
事後確率
データを見たあとの、θそのものの確からしさ P(θ|データ)。尤度とは別のもので、求めるには事前分布が要る。
違いを表で確認
| 比較軸 | 確率 | 尤度 |
|---|---|---|
| 固定するもの | 確率:パラメータθを固定する(例:表が出る確率を0.5と決める) | 尤度:観測したデータを固定する(例:10回中7回表が出たと決める) |
| 動かすもの | 確率:結果を動かす(表が0回〜10回のそれぞれ) | 尤度:θを動かす(0から1まで) |
| 足し合わせたとき | 確率・確率密度:θを固定したとき、結果側で1に正規化される(離散は確率の総和、連続は密度の積分) | 尤度:θ上で1に正規化される必要はない。このコイン例の積分は1/1320 |
| 答える問い | 確率:このθなら、どの結果がどれだけ起こりやすいか | 尤度:このデータが出たなら、どのθがどれだけ「もっともらしい」か |
| 事後確率との関係 | 確率:離散なら P(データ|θ)、連続なら確率密度 f(データ|θ)。θを固定してデータを見る | 尤度:同じ確率質量または確率密度をθの関数と見たもの。「θが真である確率」P(θ|データ)ではない |
| G検定での出番 | 確率:確率分布・条件付き確率の設問 | 尤度:最尤法で「尤度を最大にするθを選ぶ」。損失関数は負の対数尤度 |
公式一次資料と照合:G検定の一次資料で確認一次資料の一覧を見る
G検定の学習に使う書籍(Amazon)
PRどこで迷っているかを切り分ける
「尤度が最大」を「θが正しい確率が最大」と読みそうな人
尤度は、θが真である確率ではありません。最尤法は「このデータが最も出やすくなるθ」を選ぶ方法で、θの確からしさを直接答える方法ではありません。θの確からしさを答えるのは、事前分布を使うベイズ推定です。
尤度の値が小さすぎて戸惑う人
尤度はθの確率分布ではないので、θ上で1に正規化される必要はありません。後のコイン例では、θを0から1まで積分すると1/1320(約0.000758)です。値の大きさでなく、θを変えたときの大小比較に意味があります。
尤度と確率を同じ式なのに別の名前で呼ぶ理由が分からない人
離散モデルでは P(データ|θ)、連続モデルでは f(データ|θ) という同じモデル側の量を使いますが、見る向きが違います。θを決めて結果を見るなら確率・確率密度、結果を決めてθを見るなら尤度です。
具体例で使い分ける
編集部の整理
例 1
10回のコイン投げで、表が7回・裏が3回となった特定の並び(架空のデータ)
順序まで固定した同じ「表7回・裏3回の並び」について、θ(表の確率)を0.5と0.7に変えて、値を比べます。
- θ=0.5のとき、この並びの確率は 0.5^10≒0.000977 です。
- θ=0.7のときは 0.7^7×0.3^3≒0.002224 で、θ=0.5のときの約2.28倍です。
- データは同じまま、θを変えて値を比べています。これが尤度の見方で、0.7のほうが「もっともらしい」と言えます。
結論: データを固定してθを動かすと尤度です。尤度が大きいθを選ぶのが最尤法で、ここでは θ=0.7(表の割合)が選ばれます。
例 2
足して1になるかを確かめる(同じ架空のデータ)
θを0.5に固定して、10回の表裏の全2^10通りの並びの確率を足します。次に、特定の並びを固定して、θを0から1まで動かした尤度を積分します。
- θ=0.5に固定し、10回の表裏の全2^10通りの並びの確率を足すと、ちょうど1になります。
- データを順序まで含む「7表3裏の特定の並び」に固定し、尤度 θ^7(1−θ)^3 を θ=0から1まで積分すると、ベータ関数で 7!×3!÷11!=1÷1320≒0.000758 になります。
結論: この離散例では、確率は結果について足すと1になります。一方、尤度はθ上で1に正規化される必要がなく、このコイン例の積分は1/1320です。尤度を「θの確率」として読むことはできません。
問題文から答えを選ぶ手順
編集部の整理:コイン投げの数値例と試験での判定手順は、定義を具体化するための編集部作成例です。
- 1
固定されているものを探す
問題文で「θ(パラメータ)が与えられ、結果の起こりやすさ」を問うなら確率、「データが与えられ、θの当てはまりのよさ」を問うなら尤度です。
- 2
正規化の向きを確かめる
確率分布として1に正規化されるのは、θを固定したときのデータ側です。尤度はθの確率分布ではなく、θ上で1に正規化される必要はありません。
- 3
事後確率と混同していないかを見る
「θが真である確率」を表すのは事後確率です。尤度を最大にする最尤法は、これを直接は求めません。
- 4
最尤法の設問につなげる
尤度の対数を取って最大にする、または負の対数尤度を最小にする、という記述は同じことを指します。
試験での見分け方
編集部の整理
- 1θを固定して結果の起こりやすさを見るのが確率、データを固定してθを動かして見るのが尤度。
- 2確率分布は結果側で1に正規化される(離散は総和、連続は密度の積分)が、尤度はθ上で1に正規化される必要はない。このコイン例の積分は1/1320。
- 3尤度は「θが真である確率(事後確率)」ではない。
- 4最尤法は、尤度が最大になるθを選ぶ方法。
誤答しやすい選択肢
尤度を「θが正しい確率」だと考える
修正: 尤度は、θを仮定したときにそのデータが得られる度合いです。θの確からしさは事後確率で、求めるには事前分布が要ります。
尤度はθについて足すと1になると考える
修正: 確率分布は結果について1に正規化されますが、尤度はθの確率分布ではなく、θ上で1に正規化される必要はありません。
尤度と確率は無関係な式だと考える
修正: 離散モデルでは P(データ|θ)、連続モデルでは確率密度 f(データ|θ) を使います。固定するものと動かすものが違います。
確認問題
Q110回のコイン投げで表7回・裏3回の並びの尤度は、θ=0.5とθ=0.7のどちらが大きい?
答え: θ=0.7(約0.002224。θ=0.5は約0.000977)
0.7^7×0.3^3≒0.002224、0.5^10≒0.000977 です。データを固定してθを比べているので、尤度の比較です。
Q2尤度が大きいことは「θが真である確率が大きい」ことを意味する?
答え: 意味しない
尤度は事後確率 P(θ|データ) ではありません。θが真である確率を答えるには、事前分布を使うベイズ推定が必要です。
Q3このコイン例でθを固定し、10回の表裏の全2^10通りの並びで足すと1になるのは、確率と尤度のどちら?
答え: 確率
θを固定した全2^10通りの並びの確率を足すと1になります。尤度はθの確率分布ではなく、θ上で1に正規化される必要はありません。
到達チェック
- θを固定するのが確率、データを固定するのが尤度だと言える
- 尤度はθ上で1に正規化される必要がないと言える
- 尤度が「θが真である確率」ではないと言える
関連ページで確認する
同じ資格で次に知りたいこと
- ストライドとパディングの違い|CNNの出力サイズを7×7の入力で手計算(G検定)
ストライドはフィルタを動かす幅、パディングは入力のまわりに値を足す幅です。出力の幅は(W−F+2P)/S+1。7×7の入力に3×3のフィルタを当て、S=1・P=0で5、P=1で7、S=2・P=0で3になる手計算で違いを整理します。
- CAMとGrad-CAMの違い|重みの求め方と適用できるモデル(G検定)
CAMとGrad-CAMの違いを、重みの求め方(出力層の重みか勾配か)・適用できるCNNの構造・再学習の要否・ヒートマップの作り方の4点で整理。2枚の特徴マップの計算例と確認問題つき。G検定のモデルの解釈性の設問に使える。
- ジニ不純度とエントロピーの違い|決定木の分割基準を10個のデータで手計算(G検定)
ジニ不純度はΣp(1−p)、エントロピーは−Σp log p で、どちらも決定木が分割を選ぶ不純度の尺度です。クラスが6対4のノードでジニ0.48・エントロピー0.971、2通りの分割で不純度の減少を計算し、違いを整理します。
よくある質問
Q尤度と確率は何が違う?
離散モデルでは P(データ|θ)、連続モデルでは確率密度 f(データ|θ) を使います。確率・確率密度はθを固定してデータを動かし、尤度はデータを固定してθを動かして見ます。尤度はθ上で1に正規化される必要がなく、このコイン例の積分は1/1320です。
Q尤度は「θが正しい確率」ですか?
いいえ。尤度はデータを固定してθを動かしたときの値で、θ上の確率分布ではありません。θの確からしさは事後確率で表します。
Q尤度の値が小さいのは問題ですか?
問題ではありません。尤度は確率分布ではなく、値の大きさそのものでなく、θを変えたときの大小の比較に意味があります。離散モデルで特定の並びを扱うときは、並びが長いほど値は小さくなります。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: AI資格ドリル編集部(運営者情報を見る)
