パラレルブースティングによるカーネルマシンを用いたアンサンブル学習

摘要

本研究では複数のカーネルマシンを用いたアンサンブル学習の手法を提案する。 この手法は、全学習データの一部だけを用いて学習した複数のカーネルマシンを、ある目的関数を最適化するように組み合わせ答えを出す。 目的関数としては、一般的な（学習がアップデートする）ブースティングの手法に用いる二種類の目的関数、すなわち指数評価(exponential criterion)と最尤評価(maximum likelihood criterion)を使う。 さらに、マシンを組み合わせる際の各ウェイトに制約(convexity constraint)をつける場合の効果について議論する。 膨大なデータを学習する場合、我々の提案するアンサンブルマシンは一個のサポートベクターマシン(SVM)より計算時間を大幅に削減できる。 さらに、分類問題に対する数値実射こよって、アンサンブルマシンが一個のサポートベクターマシンに匹敵する良い性能を持つことを示す。