DS検定 用語解説
勾配ブースティングとは
決定木を1本ずつ順番に学習し、直前までの予測の誤差を次の決定木で補正していくアンサンブル学習の手法。決定木を互いに独立に学習させるRandom Forestとは、木の学習順序が異なる。
まず押さえる結論
勾配ブースティングは、DS検定の「第5章 データ準備・可視化技法とモデル化」に出てくる用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-10-02。
試験概要（公式）試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
「第5章 データ準備・可視化技法とモデル化」の問題で、取り違えやすい組み合わせです。
- 標本誤差とサンプリングバイアスの混同。標本誤差は標本抽出に伴う偶然のばらつき、サンプリングバイアスは抽出方法の偏りによる系統的な誤差。
- 過学習を『精度が高いこと』と誤解する。訓練データに過剰適合し未知データへの汎化性能が下がる問題として理解する必要がある。
- Precision（適合率）とRecall（再現率）の取り違え。目的（見逃しを減らしたいか、誤検知を減らしたいか）によって重視する指標が変わる。
関連する確認問題
第5章 データ準備・可視化技法とモデル化 / モデル化・評価
複数の決定木を並列に学習し、それぞれの予測を多数決や平均でまとめる方法はどれか。
決定木を並列に学習して予測をまとめる方法なので、並列型のアンサンブル学習が必要になる。正解は「Random Forest」である。Random Forestは、複数の決定木を並列に学習し、それぞれの予測を多数決や平均でまとめる。「勾配ブースティング」は決定木を1本ずつ順に追加して前の誤差を補う方法であり、「XGBoost」と「LightGBM」はその実装である。順に追加する方法は、並列に学習してまとめる方法とは仕組みが異なる。したがって、設問の方法はRandom Forestである。
第5章 データ準備・可視化技法とモデル化 / モデル化・評価
アンサンブル学習に使う手法の説明として、誤っているものはどれか。
誤っている説明を選ぶので、手法の仕組みの取り違えを探す。正解は「Random Forestは、決定木を1本ずつ順に追加して、前の木の誤差を補う方法である」である。Random Forestは、複数の決定木を並列に学習し、予測を多数決や平均でまとめる方法で、順に誤差を補うのは勾配ブースティングの仕組みである。勾配ブースティングの説明、およびXGBoostとLightGBMが勾配ブースティングの実装であるという説明は、いずれも正しい。したがって、Random Forestを順に追加する方法とする説明が、設問の誤った説明である。
第5章 データ準備・可視化技法とモデル化 / モデル化・評価
決定木をベースとしたアンサンブル学習の手法として当てはまらないものはどれか。
正解は「ホールドアウト法」である。Random Forestは複数の決定木の多数決・平均を取る手法、XGBoostとLightGBMは決定木を順に追加していく勾配ブースティング（GBDT）の実装であり、いずれも決定木を組み合わせて予測精度を高めるアンサンブル学習の手法である。ホールドアウト法はデータを学習用と評価用に分割してモデルの性能を検証する手法であり、決定木を組み合わせて予測するアンサンブル学習の手法ではない。3つが「複数の決定木をどう組み合わせて予測するか」という同じ問いに答える手法である一方、ホールドアウト法は「学習したモデルをどう評価するか」という別の問いに答える手法であり、単独で異なる役割を持つ。
同じ章で確認したい用語
他資格でも出題される用語
到達チェック
- 勾配ブースティングを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、勾配ブースティングに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）