メトロポリス法における平均採択率の挙動について

摘要

Markov chain Monte Carlo (MCMC) method is the algorithm to sample from arbitrary probability distribution, and is widely used in various areas such as Bayesian estimation. While the algorithm has the advantage that it can sample the probability density not normalized, it has the disadvantages of huge computational cost and the difficulty of convergence judgement. Hence, the optimal settings of tuning parameters such as Monte Carlo step and step size for the Metropolis algorithm are very important for the efficient MCMC method. In this study, we analytically calculate the average of acceptance rate, which is the criterion for the step size for the Metropolis algorithm. In particular, our analysis focuses on the situation for Bayesian estimation of singular learning machines such as the neural networks and the mixture of Gaussian. Moreover, we verify the efficiency of our analysis by comparing the analytical result with that of the computer simulation.%与えられた任意の確率分布からのサンプリングを実現するマルコフ連鎖モンテカルロ法は，ベイズ推定を始め，様々な分野で利用されるアルゴリズムである．規格化されていない確率密度であってもサンプリング可能である一方，計算量が多い点や，収束判定が難しいため，利用に際してはモンテカルロステップ数や，メトロポリス法におけるステップサイズなどを適切に設定することが重要である．本研究では，メトロポリス法における平均採択率を解析に導出し，ステップサイズにおける設定に関する考察を与える．特に，階層的な確率モデルで一般的に現れる特異構造を持った場合に着目し，特異モデルにおけるベイズ学習への有効性を検証する．