カーネルの自動調整機能を備えたSVMの特徴空間の圧縮手法

摘要

サポートベクトルマシンにを対象として，分離平面と同時にカーネル行列を学習することにより分離のマージンを広げる手法と，特徴空間を圧縮することによりVC次元を下げることを試みる手法が提案されている．本論文では，これらを組み合わせることで得られる学習機械を提案し，組合せにより汎化性能が向上する見込みがあることを数値実験により示す．提案手法には，特徴空間を圧縮する手法を取り入れているため計算の一部でカーネルトリックが使用できないという計算量面での難点があるが，このことが直ちに致命的な欠陥とは言えない．計算量の面での問題点を回避する方法の議論も行う．%This paper introduces a support vector machine like learning algorithm that combines two techniques introduced for enhancing performance of support vector machines. One machine learns not only the weight in the feature space but also the kernel matrix. The other try to make lower the dimension of the feature space to decrease the VC-dimension. In our experiments, the proposed algorithm outperformed the original approaches in generalization performance and number of support vectors.