誤差逆伝播学習


誤差逆伝播(back-propagation)は、再帰的な計算する方法の一つである。

誤差逆伝播学習法の目的は、再帰加重のセットを発見することによって、ネットワークの予測アウトプット(predicted output)と教師信号の従属変数(dependent variable)の値が互いに接近することである。

二乗最小化アルゴリズム(least square algorithm)を使っている誤差逆伝播は、マッピング・モデルと学習モデルによって構成されている。マッピング・モデルでは、情報の流れがフォーワードにインプットからアウトプットまで伝播しているが、学習モデルでは、情報の流れがフォーワードとバックワードしながら再帰加重を調節している。

誤差逆伝播学習の特徴は、各ユニットの出力関数として、しきい値関数ではなくシグモイド形関数を用いることである。これにより、各結合荷重を微少変化させた場合の推定値の変化量、すなわち、自乗出力誤差和の各結合荷重に関する感度を求めることが可能にある。この感度を用いて、推定値を小さくするための、結合荷重の変化方向を求めることができる。この感度計算を再帰的に行えるように定式化したのが、誤差逆伝播学習の基本的アイデアである。


next contents