2.情報幾何の基礎知識

参考文献[1],pp46

(13)ダイバージェンス

 多様体S上の点pからqへの∇-ダイバージェンスをD(p,q)と書き、次のように定義します。
 (18)
一般に、
D(p, q)≠D(q, p)
ですが、{ S, g, ∇, ∇* }においては、
D*(p, q)=D(q, p)
という性質があります(D*は∇*-ダイバージェンスです)。
 e-接続、m-接続においては、KullbackダイバージェンスKullback情報量、あるいは対エントロピーとよばれ、次式で表されます。
 (19)
ダイバージェンスのピタゴラス定理

 多様体上の点 p, q, r があるとして、e-接続によってp-q間を結ぶ曲線(e-測地線)と、m-接続によってr-q間を結ぶ曲線(m-測地線)が互いに直行しているとき、p-r間のダイバージェンスD(p, r)は次のような関係を持ちます。

D(p,r)=D(p,q)+D(q,r) (20)

一般射影定理

 Sの点p および∇*-自己平行な部分多様体Mが与えられたとすると、Mの点q が D(p, q) = min D(p, r), (r ∈M) を満たすための必要十分条件は、p と q を結ぶ∇-測地線が q においてMと直行することである。


Introductory Study of Information Geometry
[ まえ | 目次 | つぎ ]