AI資格ドリル
資格を選ぶ

用語比較

データドリフトとコンセプトドリフトの違い|入力の分布が変わるか、入力と答えの関係が変わるか(DS検定)

データドリフトは、学習したときと運用中で、入ってくるデータの性質がずれることです。コンセプトドリフトは、データと答えの関係そのものが時間とともに変わることです。どちらも、運用を続けるうちにモデルの精度が下がる原因になります。

DS検定では、入力のデータがずれたのがデータドリフト、同じ入力でも正解が変わったのがコンセプトドリフトと分けると、原因の切り分けの設問に答えやすくなります。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。

データドリフトとコンセプトドリフトの要点

データドリフト

学習時と運用中で、入力データの分布 P(X) がずれる。例: 利用者の年齢層が変わる。入力の側を見て気づく。

コンセプトドリフト

入力が与えられたときの答えの分布 P(y|X) が変わる。例: 同じ文面のメールが、手口の変化でこれまでと違って迷惑メールになる。正解を見て気づく。

共通点

どちらも学習時の前提が運用中に崩れる現象で、放置すると精度が下がる。運用中のモニタリングが必要になる点も同じ。

違いを表で確認

比較軸データドリフトコンセプトドリフト
変わるものデータドリフト:入力データの分布 P(X)コンセプトドリフト:入力から答えへの関係 P(y|X)
気づく手がかりデータドリフト:入力の平均・ばらつき・カテゴリの割合が、学習時や直近の運用と違ってくる。正解がなくても調べられるコンセプトドリフト:入力の分布は同じでも、予測と正解の食い違いが増える。正解(ラベル)が後から分かって初めて確かめられる
判定の境界(決定境界)への影響データドリフト:入力の分布 P(X) だけが変わる型は、境界に影響しない。論文はこの型を仮想ドリフトとも呼ぶコンセプトドリフト:境界が動き、精度が下がる。論文は実際のドリフトとも呼ぶ
対処の方向データドリフト:新しい入力の範囲で学習し直す・特徴量の作り方を見直す。入力の確認は運用中も続けるコンセプトドリフト:新しい正解データで再学習する。古いデータだけでは新しい関係を学べない

どこで迷っているかを切り分ける

01

「学習時と運用中でデータの性質がずれた」と書かれていて迷う人

入力データの性質のずれは、データドリフトです。DS検定の公式チェックリストも、データドリフトを学習時と運用中のデータの性質のずれとして扱い、運用中も精度を確認する必要があるとしています。

02

「入力は変わっていないのに精度が下がった」と書かれている人

入力の分布が同じなのに予測が外れ始めたなら、疑うのは入力と答えの関係の変化、つまりコンセプトドリフトです。入力の側を調べても原因が見つからないときの見方です。

03

正解が分かるまで時間がかかる業務の人

正解が数か月後に分かる業務では、精度の低下を確かめるのが遅れます。その間は、正解がなくても調べられる入力の分布の変化を見張ると、早めに異変に気づけます。

04

「モデルの劣化」と「ドリフト」を同じ意味だと思っている人

モデルの劣化は精度が下がるという結果で、ドリフトはその原因の一つです。精度が下がったら、入力が変わったのか、関係が変わったのかを分けて調べます。

具体例で使い分ける

例 1

ローンの審査モデルで、申込者の年齢層が若くなった(架空のデータ)

学習時の申込者の平均年齢は45歳でしたが、新しい商品の発売後、運用中は平均32歳になりました。年齢が同じなら返済の傾向は以前と同じでした。

  • 入力(年齢)の分布が変わり、入力と返済の関係は変わっていません。変わったのは P(X) で、P(y|X) は同じです。
  • 学習時に若い申込者が少なかったため、若い層ではデータが足りず、予測が不安定になることがあります。

結論: データドリフトです。若い層を含めて学習し直す、入力の分布を定期的に確かめる、が対処の方向になります。

例 2

迷惑メールの判定で、同じ文面の扱いが変わった(架空のデータ)

メールの文面の傾向(単語の出方)は半年前とほぼ同じです。ところが、送り手が手口を変え、以前は問題のなかった文面が迷惑メールとして届くようになりました。判定の正解率は月次で90%から82%に下がりました。

  • 入力(文面)の分布はほとんど変わっていません。変わったのは、同じ文面に対する正解(迷惑かどうか)です。P(X) は同じで、P(y|X) が変わりました。
  • 入力の分布を監視しても異変は見えません。予測と正解を突き合わせて、初めて精度の低下が分かります。

結論: コンセプトドリフトです。新しい正解データを集めて再学習します。入力の監視だけでは見つからないので、正解率の推移も見ます。

問題文から答えを選ぶ手順

  1. 1

    何が変わったかを読む

    「利用者の層」「入力の分布」「データの性質」が変わったならデータドリフト。「同じ入力に対する正解」「判断の基準」が変わったならコンセプトドリフトです。

  2. 2

    入力の分布を比べる

    運用中の入力を、学習時または直近の運用と比べます。平均やばらつき、カテゴリの割合に差があればデータドリフトを疑います。

  3. 3

    予測と正解の食い違いを見る

    入力の分布が同じでも、正解率が下がっているなら、入力と答えの関係の変化(コンセプトドリフト)を疑います。

  4. 4

    対処を選ぶ

    入力の範囲の変化なら、新しい範囲を含めた学習と入力の監視。関係の変化なら、新しい正解データでの再学習です。

試験での見分け方

  • 1入力データの分布が変わるのがデータドリフト。
  • 2同じ入力に対する正解(入力と答えの関係)が変わるのがコンセプトドリフト。
  • 3入力の分布は正解がなくても調べられ、関係の変化は正解が分かってから確かめられる。
  • 4どちらも放置すると精度が下がるので、運用中のモニタリングを続ける。

誤答しやすい選択肢

ドリフトは、すべて入力データの変化だと考える

修正: 入力が同じでも、正解との関係が変われば精度は下がります。これがコンセプトドリフトで、入力の監視だけでは見つけられません。

入力の分布が変わったら、必ず精度が下がると考える

修正: 論文は、入力の分布だけが変わり答えとの関係が同じ場合は、決定境界に影響しないため仮想ドリフトと呼ばれることがあると述べます。精度への影響は、実際の正解率で確かめます。

精度が下がったときは、すぐ再学習すればよいと考える

修正: 原因によって対処が違います。入力の範囲が広がっただけなら新しい範囲を含めた学習、関係が変わったなら新しい正解データでの再学習です。まず何が変わったかを切り分けます。

確認問題

Q1学習時と運用中で、入力データの分布がずれる現象は?

答え: データドリフト

入力の分布 P(X) の変化です。DS検定の公式チェックリストは、学習時と運用中のデータの性質のずれによる精度の劣化として扱います。

Q2入力の分布は変わらず、同じ入力に対する正解が変わる現象は?

答え: コンセプトドリフト

入力が与えられたときの答えの分布 P(y|X) が変わる型です。論文は、決定境界が変わり学習の精度が下がるとし、実際のドリフトとも呼びます。

Q3正解が数か月後に分かる業務で、早めに異変へ気づくための手がかりは?

答え: 入力データの分布の変化

入力の分布は、正解がなくても運用中のデータだけで比べられます。正解率の低下が見えるのは、正解が分かってからです。

到達チェック

  • データドリフトは入力の分布 P(X) の変化だと言える
  • コンセプトドリフトは入力から答えへの関係 P(y|X) の変化だと言える
  • 入力の分布は正解がなくても調べられ、関係の変化は正解が分かって確かめられると言える

同じ資格で次に知りたいこと

よくある質問

Qデータドリフトとコンセプトドリフトは、DS検定にどちらが出る?

A

公式スキルチェックリストにあるのは、データドリフトによる精度の劣化と、運用時のモニタリングの必要性です。コンセプトドリフトは、データドリフトとの違いを理解するための用語として、このページで比べています。

Qドリフトに気づくには、何を見ればよい?

A

入力データの分布(平均・ばらつき・カテゴリの割合)と、予測と正解の食い違い(正解率の推移)の2つです。前者は正解がなくても調べられ、後者は正解が分かってから確かめます。

次に見る比較

執筆: AI資格ドリル編集部(運営者情報を見る)