AI資格ドリル
資格を選ぶ

用語比較

尤度と確率の違い|固定するのがパラメータかデータか、足して1になるか(G検定)

尤度と確率の違いは固定するもので、パラメータθを固定してデータの起こりやすさを見るのが確率・確率密度、データを固定してθを動かして見るのが尤度です。尤度は、離散モデルでは確率質量 P(データ|θ)、連続モデルでは確率密度 f(データ|θ) をθの関数として見たものです。

最尤法の「尤度を最大にする」も、「θが正しい確率」を最大にするという意味ではありません。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。

公式一次資料と照合した内容
標本データの尤度が、選んだ確率分布モデルのもとでそのデータが得られる確率または確率密度であり、未知パラメータを含むこと、尤度を最大にする値が最尤推定値であることは、NIST/SEMATECH e-Handbookへ照合しています。パラメータ上で1に正規化される必要がないことは、ページ内のコイン例でも積分して確かめています。
編集部が学習用に整理した内容
コイン投げの数値例と試験での判定手順は、定義を具体化するための編集部作成例です。

この記事で確認した公式資料

確率と尤度の要点

公式一次資料と照合:用語の定義は公式一次資料と照合しています。

確率

パラメータθを決めたとき、ある結果が起こる度合い。θを固定し、結果を動かして見る。離散なら確率質量の総和、連続なら確率密度の積分が1になる。

尤度

観測したデータを固定し、θを動かして見たときの、そのデータの起こりやすさ。θの関数ですが、θ上で1に正規化される必要はありません。このページのコイン例では、θについての積分は1/1320です。

事後確率

データを見たあとの、θそのものの確からしさ P(θ|データ)。尤度とは別のもので、求めるには事前分布が要る。

違いを表で確認

比較軸確率尤度
固定するもの確率:パラメータθを固定する(例:表が出る確率を0.5と決める)尤度:観測したデータを固定する(例:10回中7回表が出たと決める)
動かすもの確率:結果を動かす(表が0回〜10回のそれぞれ)尤度:θを動かす(0から1まで)
足し合わせたとき確率・確率密度:θを固定したとき、結果側で1に正規化される(離散は確率の総和、連続は密度の積分)尤度:θ上で1に正規化される必要はない。このコイン例の積分は1/1320
答える問い確率:このθなら、どの結果がどれだけ起こりやすいか尤度:このデータが出たなら、どのθがどれだけ「もっともらしい」か
事後確率との関係確率:離散なら P(データ|θ)、連続なら確率密度 f(データ|θ)。θを固定してデータを見る尤度:同じ確率質量または確率密度をθの関数と見たもの。「θが真である確率」P(θ|データ)ではない
G検定での出番確率:確率分布・条件付き確率の設問尤度:最尤法で「尤度を最大にするθを選ぶ」。損失関数は負の対数尤度

公式一次資料と照合:G検定の一次資料で確認一次資料の一覧を見る

どこで迷っているかを切り分ける

01

「尤度が最大」を「θが正しい確率が最大」と読みそうな人

尤度は、θが真である確率ではありません。最尤法は「このデータが最も出やすくなるθ」を選ぶ方法で、θの確からしさを直接答える方法ではありません。θの確からしさを答えるのは、事前分布を使うベイズ推定です。

02

尤度の値が小さすぎて戸惑う人

尤度はθの確率分布ではないので、θ上で1に正規化される必要はありません。後のコイン例では、θを0から1まで積分すると1/1320(約0.000758)です。値の大きさでなく、θを変えたときの大小比較に意味があります。

03

尤度と確率を同じ式なのに別の名前で呼ぶ理由が分からない人

離散モデルでは P(データ|θ)、連続モデルでは f(データ|θ) という同じモデル側の量を使いますが、見る向きが違います。θを決めて結果を見るなら確率・確率密度、結果を決めてθを見るなら尤度です。

具体例で使い分ける

編集部の整理

例 1

10回のコイン投げで、表が7回・裏が3回となった特定の並び(架空のデータ)

順序まで固定した同じ「表7回・裏3回の並び」について、θ(表の確率)を0.5と0.7に変えて、値を比べます。

  • θ=0.5のとき、この並びの確率は 0.5^10≒0.000977 です。
  • θ=0.7のときは 0.7^7×0.3^3≒0.002224 で、θ=0.5のときの約2.28倍です。
  • データは同じまま、θを変えて値を比べています。これが尤度の見方で、0.7のほうが「もっともらしい」と言えます。

結論: データを固定してθを動かすと尤度です。尤度が大きいθを選ぶのが最尤法で、ここでは θ=0.7(表の割合)が選ばれます。

例 2

足して1になるかを確かめる(同じ架空のデータ)

θを0.5に固定して、10回の表裏の全2^10通りの並びの確率を足します。次に、特定の並びを固定して、θを0から1まで動かした尤度を積分します。

  • θ=0.5に固定し、10回の表裏の全2^10通りの並びの確率を足すと、ちょうど1になります。
  • データを順序まで含む「7表3裏の特定の並び」に固定し、尤度 θ^7(1−θ)^3 を θ=0から1まで積分すると、ベータ関数で 7!×3!÷11!=1÷1320≒0.000758 になります。

結論: この離散例では、確率は結果について足すと1になります。一方、尤度はθ上で1に正規化される必要がなく、このコイン例の積分は1/1320です。尤度を「θの確率」として読むことはできません。

問題文から答えを選ぶ手順

編集部の整理:コイン投げの数値例と試験での判定手順は、定義を具体化するための編集部作成例です。

  1. 1

    固定されているものを探す

    問題文で「θ(パラメータ)が与えられ、結果の起こりやすさ」を問うなら確率、「データが与えられ、θの当てはまりのよさ」を問うなら尤度です。

  2. 2

    正規化の向きを確かめる

    確率分布として1に正規化されるのは、θを固定したときのデータ側です。尤度はθの確率分布ではなく、θ上で1に正規化される必要はありません。

  3. 3

    事後確率と混同していないかを見る

    「θが真である確率」を表すのは事後確率です。尤度を最大にする最尤法は、これを直接は求めません。

  4. 4

    最尤法の設問につなげる

    尤度の対数を取って最大にする、または負の対数尤度を最小にする、という記述は同じことを指します。

試験での見分け方

編集部の整理

  • 1θを固定して結果の起こりやすさを見るのが確率、データを固定してθを動かして見るのが尤度。
  • 2確率分布は結果側で1に正規化される(離散は総和、連続は密度の積分)が、尤度はθ上で1に正規化される必要はない。このコイン例の積分は1/1320。
  • 3尤度は「θが真である確率(事後確率)」ではない。
  • 4最尤法は、尤度が最大になるθを選ぶ方法。

誤答しやすい選択肢

尤度を「θが正しい確率」だと考える

修正: 尤度は、θを仮定したときにそのデータが得られる度合いです。θの確からしさは事後確率で、求めるには事前分布が要ります。

尤度はθについて足すと1になると考える

修正: 確率分布は結果について1に正規化されますが、尤度はθの確率分布ではなく、θ上で1に正規化される必要はありません。

尤度と確率は無関係な式だと考える

修正: 離散モデルでは P(データ|θ)、連続モデルでは確率密度 f(データ|θ) を使います。固定するものと動かすものが違います。

確認問題

Q110回のコイン投げで表7回・裏3回の並びの尤度は、θ=0.5とθ=0.7のどちらが大きい?

答え: θ=0.7(約0.002224。θ=0.5は約0.000977)

0.7^7×0.3^3≒0.002224、0.5^10≒0.000977 です。データを固定してθを比べているので、尤度の比較です。

Q2尤度が大きいことは「θが真である確率が大きい」ことを意味する?

答え: 意味しない

尤度は事後確率 P(θ|データ) ではありません。θが真である確率を答えるには、事前分布を使うベイズ推定が必要です。

Q3このコイン例でθを固定し、10回の表裏の全2^10通りの並びで足すと1になるのは、確率と尤度のどちら?

答え: 確率

θを固定した全2^10通りの並びの確率を足すと1になります。尤度はθの確率分布ではなく、θ上で1に正規化される必要はありません。

到達チェック

  • θを固定するのが確率、データを固定するのが尤度だと言える
  • 尤度はθ上で1に正規化される必要がないと言える
  • 尤度が「θが真である確率」ではないと言える

同じ資格で次に知りたいこと

よくある質問

Q尤度と確率は何が違う?

A

離散モデルでは P(データ|θ)、連続モデルでは確率密度 f(データ|θ) を使います。確率・確率密度はθを固定してデータを動かし、尤度はデータを固定してθを動かして見ます。尤度はθ上で1に正規化される必要がなく、このコイン例の積分は1/1320です。

Q尤度は「θが正しい確率」ですか?

A

いいえ。尤度はデータを固定してθを動かしたときの値で、θ上の確率分布ではありません。θの確からしさは事後確率で表します。

Q尤度の値が小さいのは問題ですか?

A

問題ではありません。尤度は確率分布ではなく、値の大きさそのものでなく、θを変えたときの大小の比較に意味があります。離散モデルで特定の並びを扱うときは、並びが長いほど値は小さくなります。

次に見る比較

執筆: AI資格ドリル編集部(運営者情報を見る)