統計検定2級の不偏性と一致性

結論

1. 推定量 = 標本から推定する計算の仕方(確率変数)、推定値 = 観測値を代入した実際の値
2. 不偏性 = 推定量の期待値がパラメータに一致する
3. 一致性 = サンプルサイズが大きくなると、推定量がパラメータに近づく
4. 標本平均とn-1で割る分散は、不偏性も一致性も満たす
5. nで割る分散は、一致性は満たすが不偏性は満たさない

推定量と推定値

東北大学経済学研究科の講義資料は、点推定を、未知のパラメータを1点で推定する方法と説明しています。推定量は標本からパラメータを推定する関数で、標本が変わるたびに値が変わる確率変数です。推定値は、観測値から推定量を計算した実際の値です。

例です(このページの架空のデータです)。母集団から3つ取り出したら、1、3、5でした。

• 推定量: 標本平均(3つの値を足して3で割る、という計算の仕方)
• 推定値: (1+3+5)÷3=3
• 別の3つを取り出せば推定値は変わるが、推定量(計算の仕方)は変わらない

確率変数として性質を論じるのが推定量、手元の1つの数が推定値です。用語は点推定の用語集にあります。

不偏性

講義資料は、不偏性を、推定量の期待値がパラメータに等しい性質としています。不偏推定量は、平均的に過大評価も過小評価もしない推定量です。

• 「平均的に」の意味: 標本を何度も取り直して推定値を作り、その平均をとると、パラメータの値になる
• 1回の推定値がパラメータとずれるのは普通で、不偏性はその1回のずれの小ささを保証しない
• 標本平均の期待値は母平均に一致するので、標本平均は母平均の不偏推定量

不偏性が言っているのは、ずれの向きに偏りがないことだけです。

一致性

講義資料は、一致性を、サンプルサイズが大きくなると推定量がパラメータに近づく性質としています。一致性を持たない推定量は、サンプルサイズをどれだけ大きくしても、母集団のパラメータに一致しません。

例です。母平均を、次の2通りの推定量で推定します。

• 標本平均: データを増やすほど母平均に近づくので、一致性を満たす
• 最初の1個だけ: 取り出した最初の値は、期待値が母平均に一致するので不偏だが、データを何個増やしても最初の1個を使い続けるので、母平均に近づかない(一致性を満たさない)

不偏でも一致性を満たさない推定量はあり、2つの性質は別々に確認します。標本平均のばらつきがnとともに小さくなる様子は中心極限定理と標準誤差で計算できます。

nで割る分散とn-1で割る分散

NISTは、未知の母分散の不偏推定量として、偏差平方和をn-1で割る標本分散を示しています。データ1・3・5で、2通りを計算します。

• 標本平均: 3
• 偏差: 1−3=−2、3−3=0、5−3=2
• 偏差平方和: 4+0+4=8
• n-1で割る標本分散(不偏分散): 8÷(3−1)=4
• nで割る標本分散: 8÷3≒2.67

講義資料は、nで割る標本分散は不偏性を満たさず、一致性を満たすと整理しています。nで割ると、同じデータでもn-1で割るより小さい値が出るので、母分散を平均的に小さく見積もる偏りがあります。不偏分散は、この偏りを補正するためにn-1で割ります。用語は不偏分散の用語集にあり、2つの分散の違いは標本分散と不偏分散の違いのページで比べています。

性質の組み合わせ

講義資料の整理を、表にまとめます。なお、上の「最初の1個だけ」は講義資料にはない、このページの例です。

一致性だけを満たす推定量と、不偏性だけを満たす推定量の両方がある、と覚えます。詳しい整理は不偏推定量と一致推定量の違いのページにあります。

間違えやすい点

用語の取り違えを、このページの例で3つ挙げます。

• 推定値の1回の結果で不偏性を判断する: データ1・3・5から出した分散の推定値が4でも、不偏性は推定量の期待値についての性質で、1回の値の大小では決まりません。
• 不偏性と一致性を同じ意味にする: 「最初の1個だけ」は不偏ですが、一致性を満たしません。nで割る分散は一致性を満たしますが、不偏ではありません。
• 標本平均だけを不偏推定量と覚える: 標本平均に加えて、偏差平方和をn-1で割る標本分散も不偏推定量です。

「期待値」の話が不偏性、「サンプルサイズ」の話が一致性、と聞かれ方で分けます。

問題文から読み取る

問題文の言い回しから、どちらの性質を聞かれているかを判断できます。このページの例から導いた読み方で、出題を予想するものではありません。

• 「期待値がパラメータに等しい」とあれば、不偏性
• 「サンプルサイズを大きくすると近づく」とあれば、一致性
• 「何度標本を取り直しても平均的に当たる」とあれば、不偏性
• 「データ数をいくら増やしても母集団の値に近づかない」とあれば、一致性を持たない推定量
• 「nで割る」「n-1で割る」の選択では、不偏性を求められていれば、n-1
• 「推定量」と「推定値」の区別では、確率変数として扱うほうが推定量

よくある質問

次に読むと効率的なページ