3.ニューラルネットと情報幾何

参考文献[2],pp1382-1384

(2)ニューラルネットの統計モデルその2

 n個の中間層を持つm入力のパーセプトロン統計モデル(下図)は以下のような確率的動作で定義されます。
 これは、ネットワークのパラメタ u をもつニューラルネットに、入力 x が与えられた条件で、出力 y と中間層の出力 z が1となる確立を表します。
(21)
 x:入力ベクトル
 y:出力 {0,1}
 z:m個の中間層からの出力 {0,1}
 wi:i 番目の中間層の重みベクトル
 v:出力層の重みベクトル





ただし、ψ(a,b)はシグモイド関数で

抽象化したパーセプトロン

Introductory Study of Information Geometry
[ まえ | 目次 | つぎ ]