特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択

摘要

多層パーセプトロン（MLP）は，パラメーター意識別が保証されない特異モデルであり，正則モデルの情報量規準をモデル選択に使用するのは適切でないときれ，理論研究に基づいて各種の情報量規準が提案されてきた．本稿では，MLPのモデル選択において各情報量基準がどのように働くかを実験し評価する．なお，正解の隠れユニット数が小さいと性能差が出難いため，正解が20位であるデータを用いる．情報量基準には，最尤推定量を用いるものとサンプリング法を用いるものがあるが，ここではその両方に対して，隠れユニット数の増加とともに必ず解品質を改善できる特異階段追跡（SSF）法を用いる．