第6章 カテゴリカルデータと回帰分析
統計検定2級の重回帰分析(偏回帰係数と調整済み決定係数の計算)
統計検定2級の公式出題範囲には、重回帰モデル、偏回帰係数、多重共線性、ダミー変数を用いた回帰、自由度調整(修正)済み決定係数が並んでいます。単回帰との違いは、説明変数が複数あることです。そのため「ほかの変数を一定にしたとき」という条件つきで係数を読み、モデルの比較には自由度調整済み決定係数を使います。
このページは、偏回帰係数の読み方、R²が上がっても自由度調整済み決定係数が下がる例、分散分析表のF統計量を、数字を追いながら解きます。
この記事の目次
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-10-09。
- 試験概要を確認する →
- CBT方式 公式案内を確認する →
- 資格・合格証明の公式FAQを確認する →
- 試験結果・合格率の公式発表を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- 偏回帰係数は、ほかの説明変数を一定に保ったとき、その説明変数が1単位増えることに伴う目的変数の平均的な変化
- R²は説明変数を足すと増えるか変わらない。モデルの比較には自由度調整済み決定係数 1 − (1 − R²)(n − 1)/(n − p) を使う
- 式のpは切片を含む回帰係数の個数。説明変数が2つならp = 3
- モデル全体のF統計量は、モデルの平均平方 ÷ 誤差の平均平方。平均平方は平方和を自由度で割った値
- 説明変数どうしが強く相関する多重共線性があると、回帰係数はどの変数をモデルに入れるかで変わる
偏回帰係数の読み方
単回帰では、説明変数が1つなので「xが1増えるとyがいくつ増えるか」と読めます。重回帰では、同じ読み方に条件が付きます。
計算例です(このページの架空のデータです)。貯蓄額yを、年収x1と家族の人数x2で説明する重回帰式が ŷ = 10 + 2.0 × x1 + 3.0 × x2 だったとします。
- x1の偏回帰係数2.0は、家族の人数x2を一定にして、年収x1が1単位増えたとき、貯蓄額yが平均で2.0増えることを表す
- x2の偏回帰係数3.0は、年収x1を一定にして、家族の人数x2が1人増えたとき、yが平均で3.0増えることを表す
- x1 = 5、x2 = 2 の予測値は 10 + 2.0 × 5 + 3.0 × 2 = 26
偏回帰係数を単回帰の傾きと同じ「xが1増えるとyがいくつ増えるか」とだけ読むと、条件の部分が抜けた誤りになります。用語は偏回帰係数と重回帰分析の用語集で確認できます。
自由度調整済み決定係数の計算
Penn StateのSTAT 501は、重回帰の自由度調整済み決定係数を 1 − ((n − 1)/(n − p))(1 − R²) としています。nは標本サイズ、pは切片を含む回帰係数の個数です。また、説明変数を足すとR²は増えるか変わらないままで、目的変数と無関係な変数を足しても同じだと説明しています。
計算例です(このページの架空のデータです)。標本サイズn = 20の同じデータで、2つのモデルを比べます。モデルAは説明変数x1・x2、モデルBはそこにx3を足したものです。
| モデル | p(切片を含む) | R² | 計算 | 自由度調整済み |
|---|---|---|---|---|
| モデルA(x1, x2) | 3 | 0.80 | 1 − 0.20 × 19 ÷ 17 | 0.776 |
| モデルB(x1, x2, x3) | 4 | 0.81 | 1 − 0.19 × 19 ÷ 16 | 0.774 |
モデルBのR²は0.80から0.81へ上がりましたが、自由度調整済み決定係数は0.776から0.774へ下がりました。x3を足した分のR²の増加が小さく、pが1つ増えたことによる減点を上回れなかったので、このデータではモデルAのほうが好ましいと判断できます。用語は自由度調整済み決定係数の用語集で確認できます。
分散分析表とF統計量
回帰の分散分析表では、平均平方を平方和から対応する自由度で割って求め、モデル全体のF統計量をモデルの平均平方と誤差の平均平方の比として求めます。切片を含む回帰では、R²は回帰平方和SSRを全平方和SSTで割った値です。
前の節のモデルA(n = 20、p = 3、R² = 0.80)で、全平方和SSTが100だったとします。
- 回帰平方和 SSR = 0.80 × 100 = 80、誤差平方和 SSE = 100 − 80 = 20
- 自由度は、モデルが p − 1 = 2、誤差が n − p = 17
- 平均平方は、モデルが 80 ÷ 2 = 40、誤差が 20 ÷ 17 ≒ 1.176
- F統計量: F = 40 ÷ 1.176 = 34
F = 34は、モデルの平均平方が誤差の平均平方の34倍あることを表します。臨界値と比べて判断する手順は、分散分析のページと同じです。
多重共線性とダミー変数
Penn Stateは、回帰モデルの2つ以上の説明変数が中程度または強く相関しているときに、多重共線性が存在すると説明しています。このとき、次のことが起こりやすくなります。
- ある変数の推定された回帰係数が、ほかにどの説明変数をモデルに入れるかで変わる
- 説明変数を増やすほど、推定された回帰係数の精度が下がる
- β = 0 の検定の結論が、ほかにどの説明変数を入れるかで変わる
年収と世帯の収入のように似た意味の変数を同時に入れると、偏回帰係数がほかの変数の入れ方に左右されやすくなり、「ほかを一定にしたとき」という読み方を信頼しにくくなります。用語は多重共線性の用語集で確認できます。
ダミー変数は、性別のような分類を0と1の数に置き換えて、回帰式に入れる列です。Rのmodel.matrixは、回帰モデルの式に含まれる因子を、コントラストに応じたダミー変数の列へ展開してデザイン行列を作ります。たとえば ŷ = 10 + 2.0 × x1 + 5 × d で、dが「該当すれば1、しなければ0」なら、dが1の群は0の群より、x1が同じときにyが平均で5高いと読みます。
用語はダミー変数の用語集で確認できます。
問題文から読み取る
問題文の言い回しから、使う式や読み方を判断できます。このページの計算例から導いた読み方で、出題を予想するものではありません。
- 「ほかの変数を一定としたとき」とあれば、偏回帰係数の読み方を問われている
- 「説明変数を追加してR²が増えた。モデルは改善したか」とあれば、自由度調整済み決定係数で比べる
- 「説明変数が3つ、標本サイズ20」なら、p = 4、n − p = 16 で計算する
- 「説明変数どうしの相関が高い」とあれば、多重共線性を疑う
- 「SSR = 80、SSE = 20、n = 20、説明変数2つ」なら、F = (80 ÷ 2) ÷ (20 ÷ 17) = 34
統計検定2級の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
よくある質問
重回帰分析は、統計検定2級の公式出題範囲にありますか?
あります。統計検定センターの2級の出題範囲表は、回帰分析の項目として、回帰直線の傾きの推定と検定、重回帰モデル、偏回帰係数、回帰係数の検定、多重共線性、ダミー変数を用いた回帰、自由度調整(修正)済み決定係数を挙げています。
決定係数R²が大きいモデルを選べばよいですか?
選べません。Penn StateのSTAT 501は、説明変数を足すとR²は増えるか変わらないままで、目的変数と無関係な変数を足しても同じだと説明しています。モデルを比べるときは、自由度調整済み決定係数を使います。
自由度調整済み決定係数の式のpには、切片を数えますか?
数えます。Penn Stateの記法では、pは切片を含めた回帰係数の個数です。説明変数が2つの重回帰ならp=3、3つならp=4です。この数え方を間違えると、n−pが1ずれて答えが変わります。
多重共線性とは何ですか?
Penn Stateは、回帰モデルの2つ以上の説明変数が中程度または強く相関しているときに、多重共線性が存在すると説明しています。このとき、ある変数の推定された回帰係数が、ほかにどの説明変数をモデルに入れるかで変わります。
![日本統計学会公式認定 統計検定2級 公式問題集[CBT対応版] の表紙](/_next/image?url=https%3A%2F%2Fm.media-amazon.com%2Fimages%2FP%2F4788920476.09._SCLZZZZZZZ_.jpg&w=256&q=75)