誤差伝播経路の相関を考慮したForward-Propagation則

摘要

これまでに我々は，生体の運動制御を意識した逆モデル学習スキームとして，Forward－Propagation則（FP）を提案してきた．しかし，学習のための手続きが煩雑であり，アルゴリズムの見通しが必ずしも良いとは言えないものであった．本報告では，FPにおける逆モデルのパラメータ推定を最尤推定とみなし，その勾配は誤差順伝播経路による相関を考慮したものとなることを示す．これまでに提案してきたFPでは，多層神経回路の初期状態を近似的な逆モデルに選ぶ必要があった．対照的に新しく導出された形式の更新則では，数値実験の結果，ランダムに選ばれた初期状態からでも局所収束することを確認した．