第6章 カテゴリカルデータと回帰分析
統計検定2級の単回帰分析(回帰直線・決定係数・傾きのt検定の計算手順)
統計検定2級の公式出題範囲には、単回帰と予測が含まれ、最小二乗法、決定係数、回帰係数、標準誤差などが挙がっています。単回帰分析の計算は、傾きと切片を求め、残差から決定係数を出し、傾きをその標準誤差で割ってt検定をする、という順番で進みます。
このページは、5つのデータ点を使い、この順番で最後まで手計算します。最後に、ソフトウェアの出力のどの数字がどの計算結果に当たるかを対応させます。
この記事の目次
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-10-09。
- 試験概要を確認する →
- CBT方式 公式案内を確認する →
- 資格・合格証明の公式FAQを確認する →
- 試験結果・合格率の公式発表を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
- 公式情報を確認する →
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- 傾きb1は (xの偏差×yの偏差の合計) ÷ (xの偏差平方和)、切片b0は yの平均 − b1 × xの平均
- 最小二乗の回帰直線は、xの平均とyの平均の点を必ず通る
- 決定係数R²は SSR ÷ SST。1 − SSE ÷ SST でも同じ値になる
- 傾きのt検定は、b1 ÷ 標準誤差を自由度n−2の臨界値と比べる
- 決定係数が大きくても、データが少なければ傾きは有意にならないことがある
計算の流れ
| ステップ | 内容 |
|---|---|
| 1. 傾きと切片を求める | 傾きb1 = xの偏差とyの偏差の積和 ÷ xの偏差平方和、切片b0 = yの平均 − b1 × xの平均 |
| 2. 残差を求める | 残差 = 実際のy − 回帰直線の予測値。切片を含む回帰では残差の合計が0になる |
| 3. 決定係数を求める | R² = 回帰平方和SSR ÷ 全平方和SST(または 1 − 誤差平方和SSE ÷ SST) |
| 4. 傾きのt検定をする | t = b1 ÷ b1の標準誤差。自由度n − 2の臨界値と比べる |
一次資料: 統計検定センター「統計検定2級 出題範囲」、NIST/SEMATECH e-Handbook of Statistical Methods、Penn State STAT 501
回帰直線の傾きと切片
NISTは、単回帰の最小二乗推定で、傾きb1を「xの平均との差とyの平均との差の積の合計 ÷ xの偏差平方和」、切片b0を「yの平均 − b1 × xの平均」としています。
計算例です(このページの架空のデータです)。xが1から5のとき、yが 2, 4, 5, 4, 5 だったとします。xの平均は3、yの平均は4です。
| x | y | x − 3 | y − 4 | 両者の積 | 予測値 | 残差 |
|---|---|---|---|---|---|---|
| 1 | 2 | −2 | −2 | 4 | 2.8 | −0.8 |
| 2 | 4 | −1 | 0 | 0 | 3.4 | 0.6 |
| 3 | 5 | 0 | 1 | 0 | 4.0 | 1.0 |
| 4 | 4 | 1 | 0 | 0 | 4.6 | −0.6 |
| 5 | 5 | 2 | 1 | 2 | 5.2 | −0.2 |
積の合計は 4+0+0+0+2 = 6、xの偏差平方和は 4+1+0+1+4 = 10 です。傾きは 6÷10 = 0.6、切片は 4 − 0.6×3 = 2.2 になり、回帰直線は y = 2.2 + 0.6x です。x=3(xの平均)での予測値は 2.2+0.6×3 = 4.0 で、yの平均4と一致します。最小二乗の回帰直線が平均点を通るためです。
残差と決定係数
残差は、実際のyから予測値を引いた値です。上の表の残差は −0.8, 0.6, 1.0, −0.6, −0.2 で、合計は0になっています。残差を2乗して合計した誤差平方和SSEは 0.64+0.36+1.00+0.36+0.04 = 2.4 です。
yの偏差を2乗して合計した全平方和SSTは 4+0+1+0+1 = 6 です。回帰で説明できる部分の回帰平方和SSRは 6 − 2.4 = 3.6 です(傾き0.6×積の合計6 = 3.6でも一致します)。決定係数は R² = SSR÷SST = 3.6÷6 = 0.6 です。1 − SSE÷SST = 1 − 2.4÷6 = 0.6 でも同じ値になります。用語は決定係数の用語集でも確認できます。
傾きのt検定
Penn StateのSTAT 501は、母集団の傾きが0という帰無仮説の検定で、推定した傾きb1をその標準誤差で割ったt統計量を使います。両側検定では、t統計量の絶対値が自由度n−2の臨界値を超えたとき、帰無仮説を棄却します。
標準誤差を求めるために、まず残差標準偏差を計算します。NISTは、推定した係数の個数をPとして、残差標準偏差を √(残差の2乗和÷(N−P)) としています。単回帰ではP=2なので、 √(2.4÷3) = √0.8 ≒ 0.894 です。傾きの標準誤差は、これをxの偏差平方和の平方根で割った 0.894÷√10 ≒ 0.283 です。
t統計量は 0.6÷0.283 ≒ 2.121、自由度は5−2 = 3 です。NISTのt分布の表では、自由度3で「臨界値より小さい確率」が0.975になる値は3.182です。2.121は3.182より小さいので、有意水準5%(両側)で「傾きは0」という帰無仮説は棄却されません。決定係数が0.6あっても、5点では傾きが0でないとまでは言えない、という結果です。
ソフトウェアの出力を読む
Rのsummary.lmの係数表は、推定値、標準誤差、t統計量、両側p値の列を持つ表です。傾きの行を手計算の結果で同じ並びにすると、次のようになります(このページの例の値で、実際の出力画面ではありません。切片の行はこのページでは計算していません)。
| 行 | 推定値 | 標準誤差 | t値 |
|---|---|---|---|
| x(傾き) | 0.6 | 0.283 | 2.121 |
実際の出力にはp値の列もあり、p値が示されていれば、設定した有意水準と比べて係数の検定を判断できます。この例のt値2.121は臨界値3.182を超えないので、p値は0.05より大きくなります。出力の形式や確率の表し方はソフトウェアごとに異なる場合があるため、列の定義を確認してから読んでください。
なお、回帰の分散分析表では、平均平方を平方和÷自由度で求め、F統計量はモデルの平均平方÷誤差の平均平方です。この例では 3.6÷(2.4÷3) = 4.5 で、t値2.121の2乗(約4.5)と一致します。
問題文から読み取る
問題文の言い回しから、何を計算するかを読み取れます。このページの計算例から導いた読み方で、出題を予想するものではありません。
- 「xの偏差平方和」「偏差の積の和」が与えられていれば、傾きは 積の和 ÷ 偏差平方和
- 「xの平均」「yの平均」「傾き」が与えられていれば、切片は yの平均 − 傾き × xの平均
- 「n個のデータ」で傾きの検定なら、t分布の自由度はn−2
- 「SSRとSST」が与えられていれば、決定係数は SSR÷SST
- 「推定値と標準誤差」が与えられていれば、t値は 推定値÷標準誤差
- 「決定係数が高いので、傾きは必ず有意」という文は、先の5点の例のとおり成り立たない
統計検定2級の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
よくある質問
単回帰分析は、統計検定2級の公式出題範囲にありますか?
あります。統計検定センターの2級の出題範囲表は、単回帰と予測の項目として、最小二乗法、変動の分解、決定係数、回帰係数、分散分析表、観測値と予測値、残差プロット、標準誤差、変数変換を挙げています。
決定係数が0.6なのに、傾きが有意にならないことはありますか?
あります。このページの例は、決定係数が0.6でも、データが5点だけなので傾きのt検定は有意になりません。決定係数は当てはまりの度合い、t検定は傾きが0でないと言えるかの判断で、見ているものが違います。
傾きのt検定の自由度は、なぜn−2ですか?
切片と傾きの2つを推定しているためです。NISTは残差標準偏差を、推定した係数の個数をPとして√(残差の2乗和÷(N−P))で求めるとしており、単回帰ではP=2です。このページの例ではn=5なので、自由度は3です。
回帰直線は必ず平均点を通りますか?
切片を含む単回帰の最小二乗直線は、xの平均とyの平均の組(x̄, ȳ)を通ります。このページの例では、x=3(xの平均)での予測値4.0が、yの平均4と一致します。
![日本統計学会公式認定 統計検定2級 公式問題集[CBT対応版] の表紙](/_next/image?url=https%3A%2F%2Fm.media-amazon.com%2Fimages%2FP%2F4788920476.09._SCLZZZZZZZ_.jpg&w=256&q=75)