べ－テ自由エネルギーに対するCCCPアルゴリズムの拡張

摘要

高次元確率分布の周辺確率を効率的な計算量で計算するアルゴリズムに確率伝搬法が知られる．確率伝搬法によって計算される周辺確率は，べーテ自由エネルギーの極値を与える確率分布に等しい．べーテ自由エネルギーの最適化にConcave Convex Procedure (CCCP)の方法が1つに用いられる．本稿では，べーテ自由エネルギーに適用されるCCCPを拡張し，拡張CCCPのアルゴリズムを与える．そして具体的に拡張CCCPを正規分布の場合に適用する．その結果，拡張CCCPは，Inner Loopを同期的に更新させるアルゴリズムの場合であっても極値に収束できることがわかった．また，拡張CCCPに導入したパラメータについて，計算コストを大きく削減するための最適なパラメータ点が存在することがわかった．