活性化関数とは

第5章 データ準備・可視化技法とモデル化 / モデル化・評価

ニューラルネットワークの各ユニットで、入力の重み付き和を非線形な値へ変換し、複雑なパターンを学習できるようにするものはどれか。

正解は「活性化関数」である。活性化関数は、ニューラルネットワークのユニットで入力の重み付き和を受け取り、非線形な出力へ変換する関数である。非線形変換を層の間に入れることで、線形変換を重ねるだけでは表しにくい複雑な関係を学習できる。回帰係数は説明変数と目的変数の関係を回帰式で表す係数、標準化はデータの尺度をそろえる前処理、Accuracyは全分類件数に占める正解件数の割合を表す評価指標である。ユニット内部の変換という役割に着目する。入力前の処理や学習後の評価とは処理される段階が異なる。