その一、HMEシミュレーションの結果〔3〕
Jordanらは、序列的な混合エキスパート構造および期待値最大化(EM)問題に関する研究を行ったうえで、2つのEMアルゴリズムをまとめた。これらのアルゴリズムは、それぞれアウト・ループ(E Step)での事後確率の計算とイン・ループ(M Step)でのIRLS(iteratively reweighted least-squares)問題の解から得られる。
図7. 二階層の混合エキスパート。より深い木になるため、各
エキスパートは繰り返してゲイト・ネットワークとサブエキ
スパートのセットに拡張する。