勾配とは

まず押さえる結論

勾配は、DS検定の「第3章 数学的基礎」に出てくる用語です。見分けの要点は、偏微分は他の変数を定数とみなして一つの変数について微分する個々の操作で、勾配は各偏微分の値を一つのベクトルへまとめたものです。停留点は微分係数または勾配が0になる点であり、探索中に計算する方向ベクトルではありません。

勾配の具体例と、問題文で見る箇所・隣接概念との境界

多変数関数の偏微分を並べた、変化の方向を示すベクトルとして捉える

売上予測モデルの損失が重みw1とw2で決まるとき、現在の位置でw1についての偏微分とw2についての偏微分を計算し、2つの値を並べます。このベクトルが勾配で、損失が最も急に増える方向を示します。損失を小さくする勾配降下法では、その反対方向へ重みを少しずつ更新します。

問題文で見る箇所

「多変数関数」「各変数について偏微分」「成分を並べたベクトル」「最も急に増える方向」という条件がそろえば勾配を候補にします。勾配が0になる位置そのものを問う場合は停留点です。

隣接概念との境界

偏微分は他の変数を定数とみなして一つの変数について微分する個々の操作で、勾配は各偏微分の値を一つのベクトルへまとめたものです。停留点は微分係数または勾配が0になる点であり、探索中に計算する方向ベクトルではありません。

誤答しやすい選択肢

• 一つの変数について行う個々の偏微分を、そのまま勾配と同じものとして扱う。勾配は各変数について得た偏微分を成分として並べたベクトルです。
• 勾配が0になった位置である停留点を、勾配というベクトルの名称として扱う。ベクトルと、その値が0になる点は対象が異なります。
• 勾配降下法は勾配が示す増加方向へ進むと説明する。損失を減らす場合は、勾配と反対の方向へパラメータを更新します。

4段階の判断手順

1. 01関数が一変数か多変数かを確認する。
2. 02各変数の偏微分を個別に求めているか確認する。
3. 03求めた値を並べたベクトルなのか、勾配が0になる点なのかを分ける。
4. 04最小化の更新方向が勾配と同じか反対かを確認する。

到達条件: 勾配を偏微分のベクトルとして説明し、偏微分・停留点・勾配降下法の更新方向を区別できる。

試験での問われ方

誤答しやすいポイント

「第3章 数学的基礎」の問題で、取り違えやすい組み合わせです。

• 偏微分と全微分、勾配の意味を混同する。多変数関数における偏微分は他の変数を固定して1変数について微分すること。
• 局所最適解と大域最適解の違い。停留点が必ずしも極値になるとは限らないことを理解していないと選択肢を誤る。
• 固有値・固有ベクトルの意味を、単なる計算手順としてのみ覚えてしまい、線形変換における役割を説明できない。

関連する確認問題

同じ章で確認したい用語