統計検定2級 用語解説
最小二乗法とは
残差の平方の合計が最小になるように回帰直線の係数を定める推定方法。
まず押さえる結論
最小二乗法は、統計検定2級の「第6章 カテゴリカルデータと回帰分析」に出てくる用語です。定義の言い換え: 「残差の平方の合計が最小になるように、回帰直線の係数を定める推定方法」と言い換えられます。最小にする対象が残差の平方の合計であることが決め手です。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-10-09。
試験概要（公式）試験での問われ方
定義の言い換え
「残差の平方の合計が最小になるように、回帰直線の係数を定める推定方法」と言い換えられます。最小にする対象が残差の平方の合計であることが決め手です。
似た概念との比較
最小にするのは残差の合計そのものではなく、残差を平方してから合計した値です。「残差の合計」や「残差の絶対値」と入れ替えた選択肢が出ます。
具体例からの判断
散布図に当てはめる直線の傾きと切片を、観測値と直線のずれ（残差）が全体として小さくなるように決める場面は最小二乗法です。
誤答しやすいポイント
最小二乗法の問題で、誤答につながりやすい考え方です。
- 最小にする対象を残差の合計とする。残差の平方の合計を最小にします。
- 最小二乗法を回帰直線の係数を決める方法ではなく、データを集める方法とする。係数を定める推定方法です。
関連する確認問題
第6章 カテゴリカルデータと回帰分析 / 線形モデル
単回帰分析で、説明変数xの偏差平方和が Sxx=40、xとyの偏差積和が Sxy=100 だった。最小二乗法による回帰直線の傾きはいくつか。
正解は「2.5」である。単回帰の最小二乗推定では、傾きはxとyの偏差積和Sxyをxの偏差平方和Sxxで割って求める。100÷40=2.5であり、xが1単位増えるとyが平均的に2.5増える直線になる。0.4は割る向きを逆にした値、140は足した値、4000は掛けた値で、いずれも傾きの公式とは異なる。NIST公式ハンドブックも、直線モデルの最小二乗推定量として、傾きを偏差積和の和を偏差平方和で割る形で示している。 計算の手順は、先にSxxとSxyを確認し、傾き=Sxy÷Sxxの形に当てはめるだけである。
第6章 カテゴリカルデータと回帰分析 / 線形モデル
単回帰分析で、xの平均が4、yの平均が11、最小二乗法による回帰直線の傾きが2.5だった。この回帰直線の切片はいくつか。
正解は「1」である。最小二乗法による回帰直線は点(xの平均, yの平均)を通り、切片はyの平均から傾きとxの平均の積を引いて求める。11-2.5×4=11-10=1となる。21は引かずに足した値、8.5は傾きに平均の差を掛けないで引いた値、-1は符号を取り違えた値である。NIST公式ハンドブックも、直線モデルの切片の推定量を、yの平均から傾きの推定値とxの平均の積を引く形で示している。 計算の手順は、先に点(4, 11)を通ることを確認し、切片=yの平均-傾き×xの平均の形に当てはめるだけである。
第6章 カテゴリカルデータと回帰分析 / 線形モデル
単回帰分析で、観測値と回帰直線による予測値との差を何というか。
正解は「残差」である。単回帰分析では、説明変数の値から回帰直線によって予測値を求め、実際の観測値との差を残差という。残差の2乗和を最小にするように回帰直線を求める考え方が最小二乗法である。「自由度」は検定統計量やt分布・カイ二乗分布などで使われる、自由に値を取れるデータの数を表す量であり、観測値と予測値の差そのものを表す語ではない。「期待度数」はカイ二乗検定において、変数間に関連がないと仮定した場合に理論上見込まれる度数であり、回帰分析の予測値との差とは別の文脈の量である。「母比率」は母集団におけるある性質を持つ要素の割合であり、推定や検定の対象となる母数であって、回帰直線からのずれを表す語ではない。
同じ章で確認したい用語
最小二乗法はG検定・DS検定・統計検定2級の用語集に共通して載っています。3資格での定義と書き方の違いを見る。
他資格でも出題される用語
到達チェック
- 最小二乗法を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、最小二乗法に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）