投機的変数選択法によるオンラインクラス分類問題の高速学習

摘要

高次元データの多くは不要な変数が多く含まれている．このような変数を含んだまま学習機械に入力すると，高い精度を得るまでに膨大な学習サンプルが必要となるといういわゆる次元の呪いが発生する．従来の変数選択の手法は，高精度の変数選択が実現されているが，事前にデータを数多く蓄積して繰り返し計算を行う必要がある手法がほとんどである．しかし，あらかじめ全データが得られないような実問題を扱う場合、このような手法では対応できない．そこで，逐次的にデータが与えられる場合であっても，早い段階で無関係な変数を除去して少サンプルで高精度な学習を可能にする手法が必要になる．そこで本研究では，大島らの投機的変数選択手法の枠組みをクラス分類問題に適用することで入力に無関係な変数を含むクラス分類問題の高速な逐次学習を実現する手法を提案する．投機的変数選択手法は「Filter」，「Wrapper」という2つの変数選択のアプローチを組み合わせて変数選択を行う枠組みであるが，提案手法ではFilterにクラス内分散とクラス間分散から変数の重要度を推定する，クラス分類問題を対象とした手法を提案して用いている．実験にはいくつかの人工データを用い，本手法の有効性を検証した．