用語比較
損失関数と評価指標の違い(学習時と評価時の使い分け)
損失関数は、モデルの学習中に最小化する関数です。評価指標は、学習したモデルの性能を、訓練に使っていないテストデータで測るための指標です。
二つは同じ値になるとは限りません。正解率や誤り率は勾配降下法で直接は最適化しにくいため、学習には交差エントロピーのような別の関数を使い、評価には正解率を使う、という分担がよく起こります。
このページは、誤差関数(損失関数)と、正解率・適合率・再現率などの評価指標が、選択肢の中で並んで混乱する人向けです。適合率と再現率の違いやMAEとRMSEの違いは別のページで扱い、ここでは「学習のための関数」と「評価のための指標」の区別に絞ります。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。
結論
損失関数(誤差関数)
学習中に最小化する関数。勾配降下法で最適化するため、導関数が使えることが求められる。例は交差エントロピー。
評価指標
学習後のモデルの性能を、訓練に使っていないテストデータで測る指標。例は正解率、誤り率、適合率、再現率。
違いを表で確認
| 比較軸 | 損失関数(誤差関数) | 評価指標 |
|---|---|---|
| 使う場面 | 損失関数:学習の最中 | 評価指標:学習のあと(テストデータ) |
| 目的 | 損失関数:パラメータを更新する方向を決める | 評価指標:モデルの良し悪しを人が判断する |
| 満たしたい性質 | 損失関数:最適化しやすい(有用な導関数がある) | 評価指標:実際に知りたい性能に合っている |
| 代表例 | 損失関数:交差エントロピー(負の対数尤度) | 評価指標:正解率、誤り率(期待0-1損失)、適合率、再現率 |
G検定の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
誤差関数と評価指標を同じものとして覚えている人
書籍『Deep Learning』は、実際に気にする損失(たとえば分類の誤り)が効率よく最適化できない場合、代理の損失関数を最適化すると述べています。学習で最小化するものと、評価で見るものは、別の関数であり得ます。
なぜ正解率を直接最小化しないのか疑問に思った人
誤り率は期待0-1損失とも呼ばれ、有用な導関数を持たないため、勾配降下法に向きません。そこで、正解クラスの負の対数尤度(交差エントロピー)を代理として使います。
訓練データでの値とテストデータでの値を混同する人
同書は、性能指標を、訓練に使ったデータとは別のテストセットで評価すると述べています。損失の値が訓練データで小さくなっても、評価はテストデータで確認します。
具体例で使い分ける
例 1
分類モデルの学習中に最小化している値はどれか
ニューラルネットワークで分類モデルを学習し、各ステップで最小化している関数を問う設問です。
- 最尤法を使うので、訓練データとモデルの予測の間の交差エントロピーを最小化します。
- これは負の対数尤度と同じものです。
- 正解率は最小化の対象ではなく、学習後に確認する値です。
結論: 損失関数(交差エントロピー)です。
例 2
学習後に、未知のデータでの性能を報告するときに使う値はどれか
学習済みの分類モデルの性能を、訓練に使っていないデータで報告する設問です。
- 性能は、訓練データとは別のテストセットで評価します。
- 分類では、正解率や誤り率がよく使われます。
- 適合率や再現率は、誤検知と見逃しを分けて見たいときの指標です。
結論: 評価指標(正解率など)です。
例 3
誤り率を損失として直接最小化しないのはなぜか
誤り率(期待0-1損失)と交差エントロピーの関係を問う設問です。
- 0-1損失は、導関数が零か未定義で、勾配降下法に向きません。
- そのため、正解クラスの負の対数尤度を代理として使います。
結論: 代理の損失関数を最適化し、誤り率は評価で確認します。
問題文から答えを選ぶ手順
- 1
いつ使う値か確認する
学習の最中に最小化するのか、学習のあとにテストデータで測るのかを分けます。
- 2
最適化の対象か確認する
勾配降下法で最小化する対象なら損失関数です。人が性能を判断する値なら評価指標です。
- 3
代理かどうか確認する
誤り率の代わりに交差エントロピーを使う場合、交差エントロピーが代理の損失関数、誤り率が評価の指標です。
- 4
評価のデータを確認する
評価指標は、訓練に使っていないテストセットで測ります。
試験での見分け方
- 1学習中に最小化するのは損失関数(誤差関数)。
- 2学習後にテストデータで測るのは評価指標。
- 3誤り率(期待0-1損失)は導関数が使えず、代理として交差エントロピーを使うことが多い。
- 4評価指標は訓練に使っていないテストセットで測る。
誤答しやすい選択肢
正解率を損失関数として最小化していると考える
修正: 正解率や誤り率は導関数が使えないため、交差エントロピーなどの代理を最小化します。
訓練データの損失の小ささを、モデルの良さと考える
修正: 性能は訓練に使っていないテストセットで評価します。
交差エントロピーを評価指標の一種と覚える
修正: 交差エントロピーは学習で最小化するコスト関数の代表例です。正解率や適合率とは使う場面が違います。
確認問題
Q1分類のニューラルネットワークを最尤法で学習するときに最小化する、訓練データとモデルの予測の間の量は何ですか?
答え: 交差エントロピー
同書は、最尤法を使うので、訓練データとモデルの予測の間の交差エントロピーをコスト関数として使うと述べています。
Q2誤り率を直接最小化する代わりに、代理として最適化される損失は何ですか?
答え: 正解クラスの負の対数尤度
誤り率は期待0-1損失で、有用な導関数を持たないため、負の対数尤度が代理として使われます。
Q3学習したモデルの性能を評価するデータは、訓練データと同じですか?
答え: 別のテストセットで評価する
未知のデータでどれだけうまく働くかを見るため、訓練に使ったデータとは別のテストセットで測ります。
到達チェック
- 損失関数と評価指標を、使う場面で区別できる
- 誤り率が最適化に向かない理由を言える
- 交差エントロピーが代理の損失関数であることを言える
- 評価はテストセットで行うと言える
関連ページで確認する
同じ資格で次に知りたいこと
- AttentionとSelf-Attentionの違い(Transformerでの使い分け)
AttentionとSelf-Attentionの違いを、クエリ・キー・値がどこから来るかで整理し、Transformerのエンコーダ・デコーダ注意との見分け方、位置エンコーディングが要る理由、G検定での確認問題まで、原論文に沿って解説します。
- ImageNetとILSVRCの違い(データセットとコンペティション)
ImageNet(画像データセット)とILSVRC(画像認識のコンペティション)の違いを、AlexNetが15.3%の誤り率で優勝した2012年の結果とあわせて解説。G検定の大項目2で問われる区別と確認問題つきです。
- 知識蒸留とファインチューニングの違い(小さなモデルを作る方法と、モデルを合わせ込む方法)
知識蒸留とファインチューニングの違いを、目的、学習で使う正解の種類、温度つきsoftmaxとsoft targets、G検定での判断手順と確認問題まで、Hintonらの原論文に沿って解説します。
よくある質問
Q損失関数と評価指標の違いは何ですか?
損失関数は学習中に最小化する関数、評価指標は学習後にテストデータで性能を測る指標です。
Qなぜ正解率を損失関数にしないのですか?
同書によると、誤り率(期待0-1損失)は有用な導関数を持たず、勾配降下法に向かないため、負の対数尤度などの代理を最適化します。
Q交差エントロピーと負の対数尤度の関係は?
同書は、コスト関数は負の対数尤度であり、これは訓練データとモデルの分布の間の交差エントロピーと同じものだと述べています。
QG検定の試験範囲に誤差関数はありますか?
あります。JDLA公式ページの試験範囲に、誤差関数とモデルの選択・評価が挙がっています。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部(運営者情報を見る)
