用語比較
データドリフトとコンセプトドリフトの違い|入力の分布が変わるか、入力と答えの関係が変わるか(DS検定)
データドリフトは、学習したときと運用中で、入ってくるデータの性質がずれることです。コンセプトドリフトは、データと答えの関係そのものが時間とともに変わることです。どちらも、運用を続けるうちにモデルの精度が下がる原因になります。
DS検定では、入力のデータがずれたのがデータドリフト、同じ入力でも正解が変わったのがコンセプトドリフトと分けると、原因の切り分けの設問に答えやすくなります。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。
データドリフトとコンセプトドリフトの要点
データドリフト
学習時と運用中で、入力データの分布 P(X) がずれる。例: 利用者の年齢層が変わる。入力の側を見て気づく。
コンセプトドリフト
入力が与えられたときの答えの分布 P(y|X) が変わる。例: 同じ文面のメールが、手口の変化でこれまでと違って迷惑メールになる。正解を見て気づく。
共通点
どちらも学習時の前提が運用中に崩れる現象で、放置すると精度が下がる。運用中のモニタリングが必要になる点も同じ。
違いを表で確認
| 比較軸 | データドリフト | コンセプトドリフト |
|---|---|---|
| 変わるもの | データドリフト:入力データの分布 P(X) | コンセプトドリフト:入力から答えへの関係 P(y|X) |
| 気づく手がかり | データドリフト:入力の平均・ばらつき・カテゴリの割合が、学習時や直近の運用と違ってくる。正解がなくても調べられる | コンセプトドリフト:入力の分布は同じでも、予測と正解の食い違いが増える。正解(ラベル)が後から分かって初めて確かめられる |
| 判定の境界(決定境界)への影響 | データドリフト:入力の分布 P(X) だけが変わる型は、境界に影響しない。論文はこの型を仮想ドリフトとも呼ぶ | コンセプトドリフト:境界が動き、精度が下がる。論文は実際のドリフトとも呼ぶ |
| 対処の方向 | データドリフト:新しい入力の範囲で学習し直す・特徴量の作り方を見直す。入力の確認は運用中も続ける | コンセプトドリフト:新しい正解データで再学習する。古いデータだけでは新しい関係を学べない |
DS検定の学習に使う書籍(Amazon)
PRどこで迷っているかを切り分ける
「学習時と運用中でデータの性質がずれた」と書かれていて迷う人
入力データの性質のずれは、データドリフトです。DS検定の公式チェックリストも、データドリフトを学習時と運用中のデータの性質のずれとして扱い、運用中も精度を確認する必要があるとしています。
「入力は変わっていないのに精度が下がった」と書かれている人
入力の分布が同じなのに予測が外れ始めたなら、疑うのは入力と答えの関係の変化、つまりコンセプトドリフトです。入力の側を調べても原因が見つからないときの見方です。
正解が分かるまで時間がかかる業務の人
正解が数か月後に分かる業務では、精度の低下を確かめるのが遅れます。その間は、正解がなくても調べられる入力の分布の変化を見張ると、早めに異変に気づけます。
「モデルの劣化」と「ドリフト」を同じ意味だと思っている人
モデルの劣化は精度が下がるという結果で、ドリフトはその原因の一つです。精度が下がったら、入力が変わったのか、関係が変わったのかを分けて調べます。
具体例で使い分ける
例 1
ローンの審査モデルで、申込者の年齢層が若くなった(架空のデータ)
学習時の申込者の平均年齢は45歳でしたが、新しい商品の発売後、運用中は平均32歳になりました。年齢が同じなら返済の傾向は以前と同じでした。
- 入力(年齢)の分布が変わり、入力と返済の関係は変わっていません。変わったのは P(X) で、P(y|X) は同じです。
- 学習時に若い申込者が少なかったため、若い層ではデータが足りず、予測が不安定になることがあります。
結論: データドリフトです。若い層を含めて学習し直す、入力の分布を定期的に確かめる、が対処の方向になります。
例 2
迷惑メールの判定で、同じ文面の扱いが変わった(架空のデータ)
メールの文面の傾向(単語の出方)は半年前とほぼ同じです。ところが、送り手が手口を変え、以前は問題のなかった文面が迷惑メールとして届くようになりました。判定の正解率は月次で90%から82%に下がりました。
- 入力(文面)の分布はほとんど変わっていません。変わったのは、同じ文面に対する正解(迷惑かどうか)です。P(X) は同じで、P(y|X) が変わりました。
- 入力の分布を監視しても異変は見えません。予測と正解を突き合わせて、初めて精度の低下が分かります。
結論: コンセプトドリフトです。新しい正解データを集めて再学習します。入力の監視だけでは見つからないので、正解率の推移も見ます。
問題文から答えを選ぶ手順
- 1
何が変わったかを読む
「利用者の層」「入力の分布」「データの性質」が変わったならデータドリフト。「同じ入力に対する正解」「判断の基準」が変わったならコンセプトドリフトです。
- 2
入力の分布を比べる
運用中の入力を、学習時または直近の運用と比べます。平均やばらつき、カテゴリの割合に差があればデータドリフトを疑います。
- 3
予測と正解の食い違いを見る
入力の分布が同じでも、正解率が下がっているなら、入力と答えの関係の変化(コンセプトドリフト)を疑います。
- 4
対処を選ぶ
入力の範囲の変化なら、新しい範囲を含めた学習と入力の監視。関係の変化なら、新しい正解データでの再学習です。
試験での見分け方
- 1入力データの分布が変わるのがデータドリフト。
- 2同じ入力に対する正解(入力と答えの関係)が変わるのがコンセプトドリフト。
- 3入力の分布は正解がなくても調べられ、関係の変化は正解が分かってから確かめられる。
- 4どちらも放置すると精度が下がるので、運用中のモニタリングを続ける。
誤答しやすい選択肢
ドリフトは、すべて入力データの変化だと考える
修正: 入力が同じでも、正解との関係が変われば精度は下がります。これがコンセプトドリフトで、入力の監視だけでは見つけられません。
入力の分布が変わったら、必ず精度が下がると考える
修正: 論文は、入力の分布だけが変わり答えとの関係が同じ場合は、決定境界に影響しないため仮想ドリフトと呼ばれることがあると述べます。精度への影響は、実際の正解率で確かめます。
精度が下がったときは、すぐ再学習すればよいと考える
修正: 原因によって対処が違います。入力の範囲が広がっただけなら新しい範囲を含めた学習、関係が変わったなら新しい正解データでの再学習です。まず何が変わったかを切り分けます。
確認問題
Q1学習時と運用中で、入力データの分布がずれる現象は?
答え: データドリフト
入力の分布 P(X) の変化です。DS検定の公式チェックリストは、学習時と運用中のデータの性質のずれによる精度の劣化として扱います。
Q2入力の分布は変わらず、同じ入力に対する正解が変わる現象は?
答え: コンセプトドリフト
入力が与えられたときの答えの分布 P(y|X) が変わる型です。論文は、決定境界が変わり学習の精度が下がるとし、実際のドリフトとも呼びます。
Q3正解が数か月後に分かる業務で、早めに異変へ気づくための手がかりは?
答え: 入力データの分布の変化
入力の分布は、正解がなくても運用中のデータだけで比べられます。正解率の低下が見えるのは、正解が分かってからです。
到達チェック
- データドリフトは入力の分布 P(X) の変化だと言える
- コンセプトドリフトは入力から答えへの関係 P(y|X) の変化だと言える
- 入力の分布は正解がなくても調べられ、関係の変化は正解が分かって確かめられると言える
関連ページで確認する
同じ資格で次に知りたいこと
- ワンホットエンコーディングとラベルエンコーディングの違い|カテゴリ変数の数値化(DS検定)
ワンホットエンコーディングとラベルエンコーディングの違いを、列の数・大小関係を持ち込むか・向く尺度・使う場面の4点で整理。赤・青・緑の3水準の例と確認問題つき。DS検定のデータ前処理の設問に使える。
- XGBoostとLightGBMの違い|木の育て方・カテゴリ変数・既定値(DS検定)
XGBoostとLightGBMの違いを、木の育て方(depthwiseとleaf-wise)・複雑さの上限・カテゴリ変数の扱い・正則化の既定値で整理します。両ライブラリの公式文書にもとづく解説と確認問題つき。
- 訓練・検証・テストデータの違い|モデルの学習と評価でデータを3つに分ける理由(DS検定・G検定)
訓練データ・検証データ・テストデータの違いを、使う場面、分ける理由、データを3つに分ける欠点と交差検証との関係、DS検定・G検定での確認問題まで、scikit-learnの公式ドキュメントと両検定の公式シラバスに沿って整理します。
よくある質問
Qデータドリフトとコンセプトドリフトは、DS検定にどちらが出る?
公式スキルチェックリストにあるのは、データドリフトによる精度の劣化と、運用時のモニタリングの必要性です。コンセプトドリフトは、データドリフトとの違いを理解するための用語として、このページで比べています。
Qドリフトに気づくには、何を見ればよい?
入力データの分布(平均・ばらつき・カテゴリの割合)と、予測と正解の食い違い(正解率の推移)の2つです。前者は正解がなくても調べられ、後者は正解が分かってから確かめます。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: AI資格ドリル編集部(運営者情報を見る)
