用語比較
分類木と回帰木の違い|葉の出力と分割の基準を手計算で比較(G検定の決定木)
分類木と回帰木の違いは、予測する対象です。分類木はクラス(合格か不合格か、など)を予測し、回帰木は連続した数値(価格など)を予測します。どちらも同じ決定木で、木の形(条件で枝分かれして葉にたどり着く)は変わりません。
葉に入るものが違う:分類木はクラスの割合、回帰木はデータの平均。分割を選ぶ基準も、クラスの混ざり具合から、数値のばらつきに替わります。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。
分類木と回帰木の要点
分類木
目的変数がクラス。葉に届いたデータのクラスの割合から答えを出す。分割の基準はジニ不純度やエントロピー。
回帰木
目的変数が連続値。葉に届いたデータの平均(基準によっては中央値)が予測値になる。分割の基準は平均二乗誤差など。
共通点
どちらも条件で枝分かれする決定木で、予測は区分的に一定になる(scikit-learn公式ガイド)。
違いを表で確認
| 比較軸 | 分類木 | 回帰木 |
|---|---|---|
| 予測する対象 | 分類木:クラス(カテゴリ) | 回帰木:連続した数値 |
| 葉の出力 | 分類木:葉に届いたデータのクラスの割合(predict_probaに入る) | 回帰木:葉のデータの平均(MAEなら中央値) |
| 分割の基準 | 分類木:ジニ不純度、エントロピー(ログ損失) | 回帰木:平均二乗誤差(MSE)、平均絶対誤差(MAE)、ポアソン逸脱度 |
| 分割の良さ | 分類木:不純度(クラスの混ざり具合)の減少が大きい | 回帰木:数値のばらつきの減少が大きい |
| 予測の形 | 分類木:領域ごとに1つのクラス | 回帰木:領域ごとに1つの値(階段状の区分的に一定) |
| 学習データの外側 | 分類木:端のクラスがそのまま続く | 回帰木:端の葉の値が続き、外挿は得意ではない |
G検定の学習に使う書籍(Amazon)
PRどこで迷っているかを切り分ける
決定木は分類の手法だと思っていた人
決定木は分類にも回帰にも使えます。目的変数がクラスなら分類木、数値なら回帰木と読みます。
ジニ不純度の計算は分かるが、数値の予測では何を使うのか迷った人
数値を予測する回帰木では、葉の平均からのずれ(平均二乗誤差)が小さくなる分割を選びます。手計算を下の例で追えます。
試験で「回帰木」の選択肢に迷った人
「平均」「連続値」「平均二乗誤差」が手掛かりなら回帰木、「割合」「クラス」「ジニ」「エントロピー」なら分類木です。
具体例で使い分ける
例 1
分類木の葉:クラスの割合が出力になる
ある葉に10件のデータが届き、クラスAが7件、クラスBが3件だったとします(数値は説明用の架空の例)。
- 葉のクラスAの割合は7÷10=0.7、クラスBは3÷10=0.3です。scikit-learnの公式ガイドは、終端ノードのpredict_probaにこの割合が入ると説明します。
- 答えとしては、割合の高いクラスAと読みます。
- この葉の不純度(ジニ)は、1−(0.7²+0.3²)=1−0.58=0.42です。
結論: 分類木の葉は、クラスの割合を持ちます。確率に近い数字と、一番多いクラスの両方が取り出せます。
例 2
回帰木の葉:平均か中央値かで予測値が変わる
ある葉に届いた5件の価格(万円)が、40、50、60、70、180だったとします(架空の例)。
- 平均は(40+50+60+70+180)÷5=80万円です。
- 中央値は並べた真ん中の60万円です。
- 公式ガイドによれば、MSEとポアソン逸脱度は葉の予測値を平均にし、MAEは中央値にします。外れた値の180万円の影響は、平均の方が大きく受けます。
結論: 同じ葉でも、分割の基準がMSEなら80万円、MAEなら60万円が予測値になります。
例 3
回帰木の分割を手計算で選ぶ(4件のデータ)
x=1、2、3、4に対して、yが10、12、30、32の4件です(架空の例)。MSEで、どこで分けるかを選びます。
- 分ける前は、yの平均が21、MSEは((−11)²+(−9)²+9²+11²)÷4=404÷4=101です。
- x=2と3の間で分けると、左(10、12)は平均11でMSEは1、右(30、32)は平均31でMSEも1です。件数で重みづけした平均は1なので、減少は101−1=100です。
- x=1と2の間で分けると、左(10)のMSEは0、右(12、30、32)は平均約24.7でMSEは約80.9です。重みづけした平均は約60.7で、減少は約40.3です。
結論: 減少が大きい、x=2と3の間の分割が選ばれます。このとき予測はx≦2.5で11、x>2.5で31の階段状です。
例 4
回帰木は学習データの外側を予測できるか
上のデータでxが増えるほどyも増える傾向です。x=10のときの予測値を考えます。
- x=10は、x>2.5の葉に入るので、予測値は31のままです。
- 公式ガイドは、決定木の予測は滑らかでも連続でもなく、区分的に一定の近似なので、外挿は得意ではないと述べます。
結論: 傾向が続くとしても、回帰木は端の葉の値を返します。線形回帰のように、傾きを延ばした値は出しません。
問題文から答えを選ぶ手順
- 1
目的変数を読む
クラス(カテゴリ)なら分類木、連続した数値なら回帰木です。
- 2
葉に入るものを見る
クラスの割合なら分類木、平均(または中央値)なら回帰木です。
- 3
分割の基準を見る
ジニ不純度やエントロピーなら分類木、平均二乗誤差なら回帰木です。
- 4
予測の範囲を確認する
どちらも区分的に一定で、学習データの外側の予測は得意ではありません。
試験での見分け方
- 1決定木は、分類にも回帰にも使える教師あり学習の手法である。
- 2目的変数がクラスなら分類木、連続値なら回帰木である。
- 3分類木の葉には、クラスの割合が入る。
- 4回帰木の葉の予測値は、MSEなら平均、MAEなら中央値になる。
- 5ジニ不純度とエントロピーは分類の基準、平均二乗誤差は回帰の基準である。
誤答しやすい選択肢
決定木は分類にしか使えないと考える
修正: scikit-learnの公式ガイドは、決定木を分類と回帰の両方に使う手法として説明します。
回帰木の分割にジニ不純度を使うと考える
修正: ジニ不純度は、クラスの割合を使うので分類木の基準です。回帰木では平均二乗誤差などを使います。
回帰木はトレンドを延ばして予測できると考える
修正: 予測は区分的に一定なので、学習データの外側では端の葉の値が続きます。
確認問題
Q1目的変数が連続値のときに使う決定木は?
答え: 回帰木
葉の予測値は、MSEなら葉のデータの平均になります。
Q2分類木の分割で使う、クラスの混ざり具合の尺度を2つ挙げよ。
答え: ジニ不純度、エントロピー
どちらも、不純度の減少が大きい分割が選ばれます。
Q3葉に届いた5件の価格が40、50、60、70、180のとき、MSEの回帰木の予測値は?
答え: 80
(40+50+60+70+180)÷5=80です。MAEなら中央値の60になります。
Q4回帰木が外挿を得意としない理由は?
答え: 予測が区分的に一定の近似だから
学習データの外側では端の葉の値が続きます。
到達チェック
- 分類木と回帰木を、目的変数の種類で区別できる
- 葉の出力(割合と平均)の違いを説明できる
- 回帰木の分割をMSEで手計算できる
- 回帰木が外挿を得意としない理由を言える
関連ページで確認する
同じ資格で次に知りたいこと
- エキスパートシステムと機械学習の違い|人が書く規則と、データから見つける規則(G検定)
エキスパートシステムと機械学習の違いを、規則の出どころで整理。エキスパートシステムは専門家の知識をif-then規則で書き込み、機械学習はデータからパターンやルールを見つけます。知識ベースと推論エンジン、知識獲得の難しさ、事例と確認問題つき。G検定の比較。
- 訓練誤差と汎化誤差の違い|テスト誤差との関係とi.i.d.の仮定(G検定)
訓練誤差は訓練データでの誤差、汎化誤差は新しいデータでの誤差の期待値で、テストデータで推定します。次数の異なる3つのモデルの誤差を並べ、差の大きさから未学習と過学習を見分ける手順を、Deep Learning(Goodfellowら)の説明で確認。
- 個人データの第三者提供と委託の違い|本人の同意が要るかどうかと、委託先の監督(G検定)
個人データの第三者提供と委託の違いを、個人情報保護法の第27条と第25条で整理。委託先は「第三者に該当しない」ので本人の同意は原則不要ですが、利用目的の範囲内に限られ、委託先の監督が必要です。事例と確認問題つき。G検定シラバスの第三者提供・委託の比較。
よくある質問
Q分類木と回帰木は何が違う?
分類木はクラスを予測し、葉のクラスの割合から答えを出します。回帰木は連続値を予測し、葉のデータの平均が予測値になります。
QG検定に分類木・回帰木は出る?
公式シラバスの「代表的な手法」に挙がる語は「決定木」です。「分類木」「回帰木」の語自体の記載は確認していないため、決定木が分類にも回帰にも使えることを押さえておくと安心です。
Q回帰木の分割には何を使う?
scikit-learnの公式ガイドは、平均二乗誤差(MSE)、ポアソン逸脱度、平均絶対誤差(MAE)を代表的な基準として挙げます。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: AI資格ドリル編集部(運営者情報を見る)
