用語比較
主成分分析とt-SNEの違い|線形の次元削減と可視化向きの非線形な埋め込み(G検定)
主成分分析(PCA)とt-SNEは、どちらも高次元のデータを少ない次元で表す次元削減の手法です。PCAは分散を最大限に説明する直交した成分へ射影する線形の手法で、t-SNEは近傍の類似度を保つように低次元へ並べ直す非線形の手法です。
G検定の機械学習では、PCAが代表的な教師なし学習の手法として扱われます。t-SNEは、scikit-learn公式ドキュメントで主な目的が高次元データの可視化とされており、PCAと比べる形で理解するとつかみやすくなります。
このページは、PCAで次元を減らした図とt-SNEの図の見え方が違う理由を知りたい人向けです。線形か非線形か、全体と近傍のどちらを重視するか、計算の重さの三つの軸で比べます。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。
結論
主成分分析(PCA)
多変量データを、分散を最大限に説明する逐次的な直交成分に分解し、分散の大きい少数の成分へ射影して次元を下げる線形の手法。計算は速い。
t-SNE
元の空間の類似度をガウス分布の同時確率、埋め込み先の類似度をStudentのt分布で表し、両者のKLダイバージェンスを最小化する非線形の手法。局所構造に敏感で、主な目的は2次元か3次元への可視化。
使い分けの軸
全体の構造と速さを取るならPCA。近傍のまとまりを図で見たいならt-SNE。全体の構造を明示的には保たないt-SNEは、PCAで初期化すると緩和できる。
違いを表で確認
| 比較軸 | 主成分分析(PCA) | t-SNE |
|---|---|---|
| 変換の性質 | PCA:線形(直交成分への射影) | t-SNE:非線形(近傍の類似度を保つ埋め込み) |
| 重視する構造 | PCA:分散の大きい方向(データ全体の広がり) | t-SNE:局所構造。全体の構造は明示的には保たれない |
| 主な目的 | PCA:次元削減。特徴量を減らして後段の処理に使える | t-SNE:高次元データの可視化。2次元か3次元で最もよく働く |
| 計算の重さ | PCA:百万サンプル規模でも数秒から数分で終わる場面がある | t-SNE:計算コストが大きく、同じ規模では数時間かかりうる |
| 結果の安定性 | PCA:各特徴量を中心化して特異値分解を適用し、成分を求める | t-SNE:確率的で、初期値やシードで埋め込みが変わりうる |
G検定の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
PCAとt-SNEは、どちらも次元削減だから同じだと思っている人
どちらも次元を減らしますが、PCAは線形の射影、t-SNEは近傍の類似度を保つ非線形の埋め込みです。scikit-learn公式ドキュメントは、PCAなどの線形の手法は非線形な構造を見落としやすいと述べています。
t-SNEの図でクラスタが分かれて見える理由を知りたい人
t-SNEは局所構造に特に敏感で、複数のクラスタや多様体を持つデータを分けて見せるのに役立ちます。一方、全体の構造は明示的には保たれないため、図のクラスタ同士の距離をそのまま読むのは避けます。
機械学習の前処理に使うか、図を作るかで迷う人
特徴量を減らして後段の学習に使う目的ならPCA、データの見た目を2次元か3次元で確認する目的ならt-SNEです。公式ドキュメントはt-SNEの主な目的を可視化としています。
具体例で使い分ける
例 1
分散が最大になる軸を求めて次元を減らす場合
特徴量が多いデータを、情報をできるだけ残して少ない軸にまとめる場面です。
- PCAは、分散を最大限に説明する直交成分へ分解し、分散の大きい少数の成分へ射影します。
- 手がかり語は、分散、直交、射影です。
結論: 分散を基準に軸を選ぶ次元削減は、主成分分析(PCA)です。
例 2
手書き数字の画像データを2次元に並べて、グループの分かれ方を見る場合
高次元のデータを2次元の図にして、似たものが近くに集まるかを確認する場面です。
- t-SNEは近傍の類似度を保つ非線形の手法で、主な目的は高次元データの可視化です。
- 公式ドキュメントは、数字のデータでt-SNEが自然なまとまりを示し、PCAの2次元射影では領域が大きく重なる例を挙げています。
結論: 局所的なまとまりを図で見たい場面は、t-SNEです。
例 3
t-SNEを何度か実行したら、図の形が少し違った場合
同じデータでシードを変えると、埋め込みの結果が変わった場面です。
- t-SNEは、KLダイバージェンスが凸ではないため、初期値によって局所解に落ちます。
- アルゴリズムは確率的で、シードを変えると結果が変わりうるとされています。
結論: t-SNEの結果が実行ごとに変わるのは、想定された性質です。
問題文から答えを選ぶ手順
- 1
目的を確認する
特徴量を減らして後段で使うか、図で見るかを分けます。可視化が目的ならt-SNEが候補になります。
- 2
見たい構造を確認する
データ全体の広がりと速さを取るならPCA、近傍のまとまりを取るならt-SNEです。
- 3
規模と再現性を確認する
大規模なデータで速さが要るならPCA。t-SNEは時間がかかり、シードで結果が変わる点を前提にします。
試験での見分け方
- 1分散が最大になる軸、直交、射影という語は、PCA。
- 2近傍の類似度を保つ、可視化、確率的という語は、t-SNE。
- 3t-SNEの図は、クラスタ同士の距離を全体の構造としてそのまま読まない。
誤答しやすい選択肢
t-SNEの図の、クラスタ同士の距離や大きさをそのまま意味のある量として読む
修正: 公式ドキュメントは、t-SNEは全体の構造を明示的には保たないと述べます。perplexityでも見え方が変わるため、近傍のまとまりを見るための図として読みます。
t-SNEをPCAの代わりに、特徴量を減らす前処理として常用する
修正: t-SNEの主な目的は可視化で、2次元か3次元で最もよく働きます。計算コストも大きいため、特徴量を減らす目的ではPCAを先に検討します。
PCAは次元削減なので、クラスタリングの手法でもあると考える
修正: PCAは変数をまとめる次元削減で、サンプルをグループに分けるクラスタリングとは別の手法です。違いは、PCAとクラスタリングの違いのページで確認できます。
確認問題
Q1分散を最大限に説明する直交成分へ射影して次元を下げる線形の手法は、PCAとt-SNEのどちらですか?
答え: PCA
PCAは、多変量データを分散を最大限に説明する逐次的な直交成分に分解します。
Q2主な目的が高次元データの可視化で、2次元か3次元への埋め込みで最もよく働くのは、PCAとt-SNEのどちらですか?
答え: t-SNE
scikit-learn公式ドキュメントが、t-SNEの主な目的は高次元データの可視化と述べています。
Q3t-SNEを同じデータに複数回実行すると、結果が変わることがあるのはなぜですか?
答え: アルゴリズムが確率的で、KLダイバージェンスが凸ではないため、初期値によって局所解に落ちるから
シードを変えて、誤差の最も小さい埋め込みを選ぶことも許容されます。
到達チェック
- PCAが線形の次元削減であることを言える
- t-SNEの主な目的が可視化であることを言える
- t-SNEの図で、全体の構造をそのまま読めない理由を言える
- t-SNEの結果がシードで変わる理由を言える
関連ページで確認する
同じ資格で次に知りたいこと
- 不均衡データの扱い(オーバーサンプリング・アンダーサンプリング・クラスの重み付けの違い)
不均衡データへの3つの対処、オーバーサンプリング・アンダーサンプリング・クラスの重み付けの違いを、データを変えるか損失の重みを変えるかの軸と、正解率だけで評価できない理由、G検定での判断手順、確認問題まで公式ドキュメントに沿って解説します。
- 層正規化とバッチ正規化の違い|正規化の単位と学習時・予測時の計算(G検定)
層正規化とバッチ正規化の違いを、平均と分散を求める単位、ミニバッチの大きさとの関係、学習時と予測時の計算、再帰型とTransformerでの使われ方、G検定での判断手順まで解説します。
- VGGとGoogLeNetの違い(G検定のILSVRC 2014の画像認識モデルの見分け方)
VGGとGoogLeNetの違いを、原論文の抄録に沿って、3×3の小さな畳み込みフィルタで深さを16〜19層に押し進めたVGGと、Inception構造で計算量を一定に保ちつつ深さと幅を増やした22層のGoogLeNetの設計思想と成績まで整理し、G検定での見分け方と確認問題を示します。
よくある質問
Q主成分分析とt-SNEは何が違いますか?
PCAは分散を最大限に説明する直交成分への線形の射影で、t-SNEは近傍の類似度を保つ非線形の埋め込みです。t-SNEの主な目的は高次元データの可視化です。
Qt-SNEの結果が毎回変わるのはなぜですか?
KLダイバージェンスが凸ではなく、アルゴリズムが確率的なため、初期値やシードで局所解が変わります。
Qt-SNEは全体の構造を保ちますか?
scikit-learn公式ドキュメントでは、全体の構造は明示的には保たれないとされています。PCAで初期化すると緩和できます。
Qt-SNEはなぜPCAより時間がかかるのですか?
公式ドキュメントでは、t-SNEは計算コストが大きく、PCAが数秒から数分で終わる百万サンプル規模で数時間かかりうるとされています。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部(運営者情報を見る)
