連鎖律とは

大項目4 ディープラーニングの概要 / 学習の仕組み

出力で生じた誤差を出力側の層から入力側の層へ向かってさかのぼらせ、各重みをどれだけ修正すべきかを計算する学習手法はどれか。

正解は誤差逆伝播法。出力層で生じた誤差を出力側から入力側へ向かって連鎖律で伝え、途中の各層の重みをどれだけ修正すべきか（勾配）を計算する手法である。確率的勾配降下法は、誤差逆伝播法で求めた勾配を使って実際に重みを更新する最適化の手続きであり、誤差を逆向きに伝えて勾配を求める計算そのものではない。主成分分析はデータの分散が大きい方向を軸として次元を削減する教師なし学習の手法で、重みの修正量を計算する学習手法ではない。交差検証はデータを分割して学習と評価を繰り返し汎化性能を見積もるモデル評価の手法であり、重みを更新する仕組みとは別の枠組みに属する。