用語比較
相互情報量と相関係数の違い｜直線の関係だけを見るか、あらゆる依存を見るか（G検定）
相関係数は、2つの変数の直線的な関係の強さを-1から+1で表す値です。相互情報量は、2つの確率変数がどれだけ依存し合っているかを表す、0以上の値です。
違いは、見ている関係の範囲です。相関係数は直線の関係だけ、相互情報量は直線でない関係も含めた依存を見ます。
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。
相関係数と相互情報量の要点
相関係数
2つのデータの直線的な関係を測る。-1から+1の値で、符号が正の関係か負の関係かを表す。0は直線の関係がないことを表す。
相互情報量
2つの確率変数の依存の強さを測る。0以上の値で、0になるのは2つが独立のときだけ。符号による向きの区別はない。
違いを表で確認
| 比較軸 | 相関係数 | 相互情報量 |
|---|---|---|
| 測る関係 | 相関係数：直線的な関係 | 相互情報量：依存全般（曲線の関係も含む） |
| 値の範囲 | 相関係数：-1以上+1以下 | 相互情報量：0以上（負にならない） |
| 符号の意味 | 相関係数：正は一方が増えるともう一方も増える、負は減る | 相互情報量：符号がなく、増減の向きは分からない |
| 値が0のとき | 相関係数：直線の関係がない（独立とは限らない） | 相互情報量：2つの変数は独立 |
| 試験での手掛かり | 相関係数：「直線」「-1から1」「向き」 | 相互情報量：「依存の強さ」「独立なら0」「非負」 |
G検定の学習に使う書籍（Amazon）
PR
どこで迷っているかを切り分ける
相関係数が0なら関係がないと考えていた人
相関係数が0でも、谷型や山型の曲線の関係が残ることがあります。直線で見ると打ち消し合うためです。関係の有無を確かめたいときは、散布図を見るか相互情報量のような別の尺度を使います。
特徴量を選ぶ話で相互情報量の名前を見た人
scikit-learnの特徴量選択には、相互情報量を使う関数があります。目的の変数と各特徴量の依存を数値にして並べる道具として使われます。
2つの値の読み方がそろわず迷っている人
相関係数は符号つきで-1から+1、相互情報量は0以上で向きなし、と別の物差しです。値の大きさを直接比べても意味がありません。
具体例で使い分ける
例 1
谷型（2次曲線）の関係で相関係数が0になる場合（架空の例）
xが-2、-1、0、1、2の5つの値を同じ確率でとり、yはxを2乗した値（4、1、0、1、4）だとします。
- xの平均は0です。xとyの積は -8、-1、0、1、8 で、平均は0になります。
- 共分散が0になるので、相関係数も0です。xが増えるとyが増える部分と減る部分が打ち消し合います。
- ただし、yはxで完全に決まっています。たとえばy＝0になるのはx＝0のときだけです。xを知れば、yが分かります。
結論: 相関係数は0でも、2つは独立ではありません。依存があるので、相互情報量は正の値になります。
例 2
直線的な関係の場合（架空の例）
yがxの2倍になっている、つまりy＝2xの関係だとします。
- 点が一直線に並ぶので、相関係数は+1です。
- xを知ればyが決まるので、2つは独立ではありません。相互情報量も正の値になります。
結論: 直線的な関係があるときは、どちらの尺度でも関係ありと分かります。違いが出るのは、直線でない関係のときです。
例 3
まったく関係がない場合（架空の例）
2つのサイコロを別々に振った出目を、それぞれxとyとします。
- 一方の出目を知っても、もう一方の出目の予想は変わりません。2つは独立です。
- 独立なので、相互情報量は0です。相関係数も0になります。
結論: 独立ならば、どちらも0です。逆は成り立たず、相関係数が0でも独立とは限りません。
問題文から答えを選ぶ手順
- 1
何を測る語かを読む
「直線的な関係」「-1から1」なら相関係数、「依存の強さ」「独立なら0」なら相互情報量です。
- 2
値の範囲を見る
負の値がありうるなら相関係数です。0以上の値なら相互情報量です。
- 3
0の意味を確かめる
「0なら独立」と言えるのは相互情報量です。相関係数が0でも、直線でない関係が残る場合があります。
- 4
向きの情報があるかを見る
正の関係か負の関係かを読み取るのは相関係数です。相互情報量には向きの情報がありません。
試験での見分け方
- 1相関係数は直線的な関係の強さを、-1から+1で表す。
- 2相互情報量は依存の強さを、0以上の値で表す。0になるのは独立のときだけ。
- 3独立なら相関係数も0。ただし、相関係数が0でも独立とは限らない。
- 4向き（正か負か）を読めるのは相関係数。
- 52つの値は物差しが別で、大きさを直接比べない。
誤答しやすい選択肢
相関係数が0なら、2つの変数は独立だと考える
修正: 相関係数は直線的な関係だけを見ます。谷型の関係では0になっても、片方からもう片方が決まります。独立と言えるのは、相互情報量が0のときです。
相互情報量が大きければ、正の相関があると考える
修正: 相互情報量に符号はなく、増える方向か減る方向かは分かりません。向きを知りたいときは相関係数を見ます。
相関係数が-0.8なら、相互情報量は負になると考える
修正: 相互情報量は負になりません。負の相関でも、依存があれば相互情報量は0より大きい値です。
確認問題
Q12つのデータの直線的な関係の強さを、-1から+1で表す値は？
答え: 相関係数
符号が関係の向きを表します。直線的でない関係は捉えにくい尺度です。
Q22つの確率変数が独立のときだけ0になり、負にならない依存の尺度は？
答え: 相互情報量
値が大きいほど依存が強いことを表します。scikit-learnの公式文書も、0になるのは独立のときだけと説明しています。
Q3xが-2、-1、0、1、2で、y＝x²のとき、相関係数は？（架空の例）
答え: 0
xとyの積の平均が0で、xの平均も0なので共分散は0です。yがxで決まっていても、直線的な関係がないため0になります。
Q4上の問の2つの変数は独立か？
答え: 独立ではない
xを知ればyが決まるので、依存があります。相互情報量は正の値になります。
到達チェック
- 相関係数を直線的な関係の尺度、相互情報量を依存全般の尺度として説明できる
- 相関係数が0でも独立とは限らないと、数値例で説明できる
- 相互情報量が0以上で、0なら独立だと分かる
- 向きが読めるのは相関係数だけだと分かる
関連ページで確認する
同じ資格で次に知りたいこと
- 蒸留とプルーニングの違い｜小さなモデルに教えるか、接続を削るか（G検定・軽量化）
蒸留とプルーニングの違いを、新しい小さなモデルを学習させるか、同じネットワークの接続を減らすかで整理。Hinton らの蒸留論文とDeep Compression論文の記述、温度つきsoftmaxの数値例と確認問題で確認。G検定のモデル軽量化の補足。
- BPTTと誤差逆伝播法の違い｜時間方向に展開するかどうか（G検定・RNN）
BPTT（時間を通した誤差逆伝播法）と誤差逆伝播法の違いを、RNNを時間方向に展開して同じ計算を適用する関係で整理。重みの共有、計算時間とメモリが系列の長さに比例する点、確認問題つき。G検定シラバスのRNNの項目にあるBPTTと誤差逆伝播法の比較。
- 個人データの第三者提供と委託の違い｜本人の同意が要るかどうかと、委託先の監督（G検定）
個人データの第三者提供と委託の違いを、個人情報保護法の第27条と第25条で整理。委託先は「第三者に該当しない」ので本人の同意は原則不要ですが、利用目的の範囲内に限られ、委託先の監督が必要です。事例と確認問題つき。G検定シラバスの第三者提供・委託の比較。
よくある質問
Q相互情報量と相関係数は何が違う？
相関係数は直線的な関係の強さを-1から+1で表し、相互情報量は依存の強さを0以上の値で表します。相関係数が0でも関係が残る場合があり、相互情報量が0になるのは独立のときだけです。
Q相関係数が0なら独立と言える？
言えません。xが-2から2の値をとりy＝x²の場合、相関係数は0ですが、yはxで決まるので独立ではありません。
QG検定に相互情報量は出る？
JDLAの公式シラバスの「確率・統計」のキーワードに、相互情報量と相関係数のどちらも挙がっています。実際の出題の形は公表されていないので、2つの違いを言葉で説明できる状態にしておくと安心です。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い（統計検定2級の式と計算例）
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: AI資格ドリル編集部（運営者情報を見る）