AI資格ドリル
資格を選ぶ↓

第6章 カテゴリカルデータと回帰分析

統計検定2級の重回帰分析(偏回帰係数と調整済み決定係数の計算)

統計検定2級の公式出題範囲には、重回帰モデル、偏回帰係数、多重共線性、ダミー変数を用いた回帰、自由度調整(修正)済み決定係数が並んでいます。単回帰との違いは、説明変数が複数あることです。そのため「ほかの変数を一定にしたとき」という条件つきで係数を読み、モデルの比較には自由度調整済み決定係数を使います。

このページは、偏回帰係数の読み方、R²が上がっても自由度調整済み決定係数が下がる例、分散分析表のF統計量を、数字を追いながら解きます。

公式情報の確認

試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-10-09。

試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。

結論

  1. 偏回帰係数は、ほかの説明変数を一定に保ったとき、その説明変数が1単位増えることに伴う目的変数の平均的な変化
  2. R²は説明変数を足すと増えるか変わらない。モデルの比較には自由度調整済み決定係数 1 − (1 − R²)(n − 1)/(n − p) を使う
  3. 式のpは切片を含む回帰係数の個数。説明変数が2つならp = 3
  4. モデル全体のF統計量は、モデルの平均平方 ÷ 誤差の平均平方。平均平方は平方和を自由度で割った値
  5. 説明変数どうしが強く相関する多重共線性があると、回帰係数はどの変数をモデルに入れるかで変わる

偏回帰係数の読み方

単回帰では、説明変数が1つなので「xが1増えるとyがいくつ増えるか」と読めます。重回帰では、同じ読み方に条件が付きます。

計算例です(このページの架空のデータです)。貯蓄額yを、年収x1と家族の人数x2で説明する重回帰式が ŷ = 10 + 2.0 × x1 + 3.0 × x2 だったとします。

  • x1の偏回帰係数2.0は、家族の人数x2を一定にして、年収x1が1単位増えたとき、貯蓄額yが平均で2.0増えることを表す
  • x2の偏回帰係数3.0は、年収x1を一定にして、家族の人数x2が1人増えたとき、yが平均で3.0増えることを表す
  • x1 = 5、x2 = 2 の予測値は 10 + 2.0 × 5 + 3.0 × 2 = 26

偏回帰係数を単回帰の傾きと同じ「xが1増えるとyがいくつ増えるか」とだけ読むと、条件の部分が抜けた誤りになります。用語は偏回帰係数と重回帰分析の用語集で確認できます。

自由度調整済み決定係数の計算

Penn StateのSTAT 501は、重回帰の自由度調整済み決定係数を 1 − ((n − 1)/(n − p))(1 − R²) としています。nは標本サイズ、pは切片を含む回帰係数の個数です。また、説明変数を足すとR²は増えるか変わらないままで、目的変数と無関係な変数を足しても同じだと説明しています。

計算例です(このページの架空のデータです)。標本サイズn = 20の同じデータで、2つのモデルを比べます。モデルAは説明変数x1・x2、モデルBはそこにx3を足したものです。

モデルp(切片を含む)R²計算自由度調整済み
モデルA(x1, x2)30.801 − 0.20 × 19 ÷ 170.776
モデルB(x1, x2, x3)40.811 − 0.19 × 19 ÷ 160.774

モデルBのR²は0.80から0.81へ上がりましたが、自由度調整済み決定係数は0.776から0.774へ下がりました。x3を足した分のR²の増加が小さく、pが1つ増えたことによる減点を上回れなかったので、このデータではモデルAのほうが好ましいと判断できます。用語は自由度調整済み決定係数の用語集で確認できます。

分散分析表とF統計量

回帰の分散分析表では、平均平方を平方和から対応する自由度で割って求め、モデル全体のF統計量をモデルの平均平方と誤差の平均平方の比として求めます。切片を含む回帰では、R²は回帰平方和SSRを全平方和SSTで割った値です。

前の節のモデルA(n = 20、p = 3、R² = 0.80)で、全平方和SSTが100だったとします。

  • 回帰平方和 SSR = 0.80 × 100 = 80、誤差平方和 SSE = 100 − 80 = 20
  • 自由度は、モデルが p − 1 = 2、誤差が n − p = 17
  • 平均平方は、モデルが 80 ÷ 2 = 40、誤差が 20 ÷ 17 ≒ 1.176
  • F統計量: F = 40 ÷ 1.176 = 34

F = 34は、モデルの平均平方が誤差の平均平方の34倍あることを表します。臨界値と比べて判断する手順は、分散分析のページと同じです。

多重共線性とダミー変数

Penn Stateは、回帰モデルの2つ以上の説明変数が中程度または強く相関しているときに、多重共線性が存在すると説明しています。このとき、次のことが起こりやすくなります。

  • ある変数の推定された回帰係数が、ほかにどの説明変数をモデルに入れるかで変わる
  • 説明変数を増やすほど、推定された回帰係数の精度が下がる
  • β = 0 の検定の結論が、ほかにどの説明変数を入れるかで変わる

年収と世帯の収入のように似た意味の変数を同時に入れると、偏回帰係数がほかの変数の入れ方に左右されやすくなり、「ほかを一定にしたとき」という読み方を信頼しにくくなります。用語は多重共線性の用語集で確認できます。

ダミー変数は、性別のような分類を0と1の数に置き換えて、回帰式に入れる列です。Rのmodel.matrixは、回帰モデルの式に含まれる因子を、コントラストに応じたダミー変数の列へ展開してデザイン行列を作ります。たとえば ŷ = 10 + 2.0 × x1 + 5 × d で、dが「該当すれば1、しなければ0」なら、dが1の群は0の群より、x1が同じときにyが平均で5高いと読みます。

用語はダミー変数の用語集で確認できます。

問題文から読み取る

問題文の言い回しから、使う式や読み方を判断できます。このページの計算例から導いた読み方で、出題を予想するものではありません。

  • 「ほかの変数を一定としたとき」とあれば、偏回帰係数の読み方を問われている
  • 「説明変数を追加してR²が増えた。モデルは改善したか」とあれば、自由度調整済み決定係数で比べる
  • 「説明変数が3つ、標本サイズ20」なら、p = 4、n − p = 16 で計算する
  • 「説明変数どうしの相関が高い」とあれば、多重共線性を疑う
  • 「SSR = 80、SSE = 20、n = 20、説明変数2つ」なら、F = (80 ÷ 2) ÷ (20 ÷ 17) = 34

よくある質問

重回帰分析は、統計検定2級の公式出題範囲にありますか?

あります。統計検定センターの2級の出題範囲表は、回帰分析の項目として、回帰直線の傾きの推定と検定、重回帰モデル、偏回帰係数、回帰係数の検定、多重共線性、ダミー変数を用いた回帰、自由度調整(修正)済み決定係数を挙げています。

決定係数R²が大きいモデルを選べばよいですか?

選べません。Penn StateのSTAT 501は、説明変数を足すとR²は増えるか変わらないままで、目的変数と無関係な変数を足しても同じだと説明しています。モデルを比べるときは、自由度調整済み決定係数を使います。

自由度調整済み決定係数の式のpには、切片を数えますか?

数えます。Penn Stateの記法では、pは切片を含めた回帰係数の個数です。説明変数が2つの重回帰ならp=3、3つならp=4です。この数え方を間違えると、n−pが1ずれて答えが変わります。

多重共線性とは何ですか?

Penn Stateは、回帰モデルの2つ以上の説明変数が中程度または強く相関しているときに、多重共線性が存在すると説明しています。このとき、ある変数の推定された回帰係数が、ほかにどの説明変数をモデルに入れるかで変わります。

次に読むと効率的なページ

執筆: ミナト編集部(運営者情報を見る)