Gibbs samplerの分布収束最適性

摘要

多次元の確率変数をMCMC (Markov Chain Monte Carlo)で発生させる際，一回の状態推移で単一の変数のみを更新する方法が主に用いられている．この単一変数更新MCMCの基本的な性質を示す．Gibbs samplerは単一変数更新MCMCの一種であるが，これは単一変数更新MCMCにある種の制約条件を課することにより導出されるものであることを示す．単一変数更新MCMCを情報幾何学的見地から見ると，現時刻の分布が属するあるm-平坦な多様体上で次時刻の分布を選ぶことの繰り返しと解釈できる．またGibbs sampler法はこのm－平坦多様体上でKLダイバージエンスの意味で目標とする分布πと最も近い分布を次時刻の分布として選ぶ食欲算法と解釈できる．MCMCを初期分布が分からない状態で走らせた場合の最悪評価を与える量を定義し，単一変数更新MCMCのクラスではGibbs samplerが最良の結果を導くことを，ある限られた範囲で証明した．