勾配とは

まず押さえる結論

勾配は、DS検定の「第3章 数学的基礎」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。

具体例から判断の境界を固める

多変数関数の偏微分を並べた、変化の方向を示すベクトルとして捉える

売上予測モデルの損失が重みw1とw2で決まるとき、現在の位置でw1についての偏微分とw2についての偏微分を計算し、2つの値を並べます。このベクトルが勾配で、損失が最も急に増える方向を示します。損失を小さくする勾配降下法では、その反対方向へ重みを少しずつ更新します。

問題文で見る箇所

「多変数関数」「各変数について偏微分」「成分を並べたベクトル」「最も急に増える方向」という条件がそろえば勾配を候補にします。勾配が0になる位置そのものを問う場合は停留点です。

隣接概念との境界

偏微分は他の変数を定数とみなして一つの変数について微分する個々の操作で、勾配は各偏微分の値を一つのベクトルへまとめたものです。停留点は微分係数または勾配が0になる点であり、探索中に計算する方向ベクトルではありません。

誤答しやすい選択肢

• ×一つの変数について行う個々の偏微分を、そのまま勾配と同じものとして扱う。勾配は各変数について得た偏微分を成分として並べたベクトルです。
• ×勾配が0になった位置である停留点を、勾配というベクトルの名称として扱う。ベクトルと、その値が0になる点は対象が異なります。
• ×勾配降下法は勾配が示す増加方向へ進むと説明する。損失を減らす場合は、勾配と反対の方向へパラメータを更新します。

4段階の判断手順

1. 01関数が一変数か多変数かを確認する。
2. 02各変数の偏微分を個別に求めているか確認する。
3. 03求めた値を並べたベクトルなのか、勾配が0になる点なのかを分ける。
4. 04最小化の更新方向が勾配と同じか反対かを確認する。

到達条件: 勾配を偏微分のベクトルとして説明し、偏微分・停留点・勾配降下法の更新方向を区別できる。

試験での問われ方

誤答しやすいポイント

関連する確認問題

同じ章で確認したい用語