対数線形モデルの学習におけるL_1正則化後の最尤推定の効果

摘要

L_1正則化には2つの機能がある.1つはパラメータ削減による構造学習，もう1つは残ったパラメータを観測データに合わせて調節するパラメータ学習である.通常のL_1正則化はこの2つの機能を同時にこなす.ここでまずL_1正則化による構造学習で残すパラメータを決め，その後のパラメータ学習を最尤推定により行うオプションが考えられる.本論文ではいくつかの対数線形モデルの学習にこのオプションと元々のL_1正則化を使った場合の性能比較を行う.理論的考察による比較と数値実験による比較を示す.