特異的なモデルにおける局所化ベイズ学習法

摘要

階層的神経回路網や混合正規分布のようにパラメータ空間に特異点を持つ学習モデルにおいては、パラメータを一点に決める方法よりもベイズ推定のように多くのパラメータの混合による学習が優れていることが知られている。 しかしながら、特異点を持つ学習モデルにおいて事後分布を実現することは困難であることが多い。 本論文では、事後分布を局所化する学習方法を提案し、その汎化誤差がベイズ法とほぼ同等とできる場合があることを縮小ランク回帰モデルへの適用によって明らかにする。