第5章 データ準備・可視化技法とモデル化(モデル化)
DS検定のクラスター分析とデンドログラムの読み方
DS検定(リテラシーレベル)の公式スキルチェックリストのモデル化には、クラスタリングが★1つ星の項目として3つ入っています。クラスター分析は、似ているデータどうしをグループにまとめる分析です。このページでは、5人の月間の来店回数という小さなデータで、階層クラスタリングの結合の順序、デンドログラムを切る高さ、非階層のk-meansの更新を、手計算で1回ずつ確かめます。クラスター分析は正解のラベルを使わずに、データの近さだけでグループを作る方法です。
このページは試験の学習用の整理です。数字はすべて説明用の架空の値です。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-10-02。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- クラスター分析は教師なし学習で、正解のラベルを使わない。正解のラベルがある分類(判別)とは目的が違う
- 階層クラスタリングは近いものから順に結び、結合の高さを木の形(デンドログラム)で示す。切る高さを決めるとクラスター数が決まる
- 非階層クラスタリングのk-meansは、クラスター数を先に決め、「所属を決める」と「中心を平均で更新する」をくり返す
- ハードは1つのデータを1つのクラスターに入れ、ソフトは各クラスターへの所属の割合で表す
クラスター分析と分類の違い
公式チェックリストは、教師なし学習のグループ化(クラスター分析)と、教師あり学習の分類(判別)モデルの違いを説明できることを★1つ星としています。違いは、正解のラベルを使うかどうかです。
- 分類:過去の顧客に「解約した・しなかった」という正解がついている。そのデータで学習し、新しい顧客がどちらになるかを当てる
- クラスター分析:正解はない。来店回数や購入額が近い顧客どうしを同じグループにまとめ、できたグループに「常連」「たまに来る人」などの名前を人間が付ける
分類は正解を当てる分析、クラスター分析は似たものを集めて構造を見つける分析です。クラスター分析には正解がないので、「当たった・外れた」では評価できません。できたグループが目的に合うかを、人間が読んで判断します。
階層クラスタリングとデンドログラム
公式チェックリストは、階層クラスタリングと非階層クラスタリングの違いと、階層クラスター分析でのデンドログラムの見方を★1つ星としています。5人の月間の来店回数が、A=1回、B=2回、C=6回、D=7回、E=15回だったとします。階層クラスタリングは、最も近い2つを結び、結んだ塊を1つとして、また最も近い2つを結ぶ、という操作を1つになるまでくり返します。
塊どうしの近さは、このページでは「両方の塊から1点ずつ選んだ距離のうち、最も短いもの」で測ります(最短距離法)。クラスター間の距離の測り方には、ほかにWard法などがありますが、公式チェックリストでは★2つ星なので、ここでは扱いません。
| 結合 | 結ぶ相手 | 結合の高さ(距離) | 見方 |
|---|---|---|---|
| 1回目 | AとB(来店1回と2回) | 1 | 距離1の組はABとCDの2組あり、どちらを先に結んでも結果は同じ |
| 2回目 | CとD(来店6回と7回) | 1 | 1回目と同じ高さ |
| 3回目 | {A,B}と{C,D} | 4 | 2つの塊で最も近い2点はBとC(6−2=4) |
| 4回目 | {A,B,C,D}とE | 8 | 最も近い2点はDとE(15−7=8) |
この結合の順序と高さを木の形に描いたものが、デンドログラムです。下に並んだA〜Eの線が、結合の高さのところで1本にまとまっていきます。デンドログラムは、低い高さで結ばれた組ほど似ていて、高い高さで結ばれた組ほど離れていると読みます。
- 高さ3で水平に切る:AとB、CとD、Eの3つのクラスター(高さ1の結合は切られず、高さ4の結合は切られる)
- 高さ5で水平に切る:AからDまでの1つと、Eだけの2つのクラスター(高さ4の結合は残り、高さ8の結合は切られる)
このように、切る高さを決めると、クラスター数が決まります。階層クラスタリングは、クラスター数を先に決めなくてよいことが特徴です。最後の結合の高さ8は、ほかの結合に比べて大きく、Eが4人から離れていることを示しています。
非階層クラスタリング
非階層クラスタリングは、木の形を作らずに、クラスター数を先に決めて分ける方法です。代表がk-meansです。同じ5人のデータで、クラスター数を2として、次の2つの手順をくり返します。
- 各データを、距離が近い方の中心のクラスターに入れる
- 各クラスターの平均を、新しい中心にする
最初の中心を1回と15回にして始めると、結果は次のようになります。
- 1回目の所属:2回は中心1に近く(距離1と13)、6回も中心1に近く(距離5と9)、7回も中心1に近い(距離6と8)。クラスターは{1,2,6,7}と{15}
- 中心の更新:{1,2,6,7}の平均は(1+2+6+7)÷4=4、{15}の平均は15
- 2回目の所属:7回は中心4までの距離3、中心15までの距離8なので動かない。ほかの点も動かず、所属が変わらないので終了
最初の中心を2回と6回にして始めると、結果は変わります。1回と2回は中心2に近く、6回・7回・15回は中心6に近いので、{1,2}と{6,7,15}に分かれます。平均は1.5と、(6+7+15)÷3=約9.33です。2回目に7回は中心1.5まで5.5、中心9.33まで約2.33で動かず、6回も中心1.5まで4.5、中心9.33まで約3.33で動かないので、ここで終了します。
k-meansは、クラスター数を先に決める必要があり、最初の中心の置き方で結果が変わることがあります。階層クラスタリングのデンドログラムは、同じ最短距離法なら毎回同じ木になる点が対照的です。初期値に依存する手法の評価は、公式チェックリストでは★2つ星なので、ここでは違いの確認にとどめます。
ハードとソフト
公式チェックリストは、ソフトクラスタリングとハードクラスタリングの違いも★1つ星としています。上の2つの例は、どちらもハードクラスタリングです。たとえば、7回の人は{1,2,6,7}にだけ入り、ほかのクラスターには入りません。
- ハード:1つのデータが、ちょうど1つのクラスターに入る
- ソフト:1つのデータが、各クラスターにどの程度属するかを割合で持つ。例は、クラスター1に0.7、クラスター2に0.3で、合計は1
境目にあるデータを、無理にどちらか一方へ入れたくないときに、ソフトの考え方が合います。来店6回の人が、常連のグループにも、たまに来る人のグループにも近いときは、割合で表すほうが実態に合います。
DS検定の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
よくある質問
DS検定で、クラスター分析はどこまで必要ですか?
公式スキルチェックリスト(data_science.csv)で★1つ星なのは、教師なし学習のグループ化(クラスター分析)と教師あり学習の分類(判別)モデルの違いを説明できること、階層クラスタリングと非階層クラスタリングの違いおよびソフトクラスタリングとハードクラスタリングの違いを説明できること、デンドログラムの見方を理解して解釈できることの3つです。クラスター数の決め方、Ward法などのクラスター間距離、各種の距離の使い分けは★2つ星に入っています。
クラスター分析と分類は、何が違いますか?
正解のラベルを使うかどうかです。分類は、過去に「解約した・しなかった」という正解がついたデータで学習し、新しい顧客がどちらかを当てます。クラスター分析は正解を使わず、データどうしの近さだけでグループに分けます。分けたあとのグループに意味を付けるのは人間です。
デンドログラムは、どこで切ればよいですか?
切る高さの決まった答えはなく、分析の目的で決めます。高いところで切るとクラスターが少なく大きくなり、低いところで切ると多く細かくなります。縦の線が長く伸びている箇所は、その前後でクラスターの間が大きく離れていることを示します。
ハードクラスタリングとソフトクラスタリングは、何が違いますか?
ハードは、1つのデータをちょうど1つのクラスターに入れます。ソフトは、データがどのクラスターにどの程度属するかを割合で表します。たとえば、あるデータがクラスター1に0.7、クラスター2に0.3という形で、割合の合計は1です。
