マルチカーネルを用いた半教師付きドメイン適応

摘要

We are interested in the problem of domain adaptation, a branch of transfer learning. Traditional, unsupervised, domain adaptation assumes that data are labeled in the source domain, but not in the target domain. Here, we consider semi-supervised domain adaptation, in which a small amount of labeled data is also available in the target domain. In this paper, we attack semi-supervised domain adaption by automatically estimating kernel parameters via multiple kernel learning (MKL). To make the problem easier to solve, we consider the extended space and solve the SVM objective and MKL in that space. Then, we obtain the optimal kernel function in that space. By doing so, the obtained kernel function maximizes the similarity between the source and target distributions in the higher-dimensional space. Finally, we examine the empirical effectiveness of our method.%転移学習の1つにドメイン適応がある．従来のドメイン適応では、補助ドメインにはラベルあり事例があり，対象ドメインにはラベルあり事例がない，教師なしドメイン適応が提案されてきた．本稿では，対象ドメインに少量のラベルあり事例を有する半教師付きドメイン適応を考える．半教師付きドメイン適応には，補助ドメインのラベルあり事例と対象ドメインのラベルなし事例が与えられるが，対象ドメインのラベルあり事例は非常に少ないと仮定されたものである．この間題を精度よく解くために，我々はカーネル関数のパラメータをマルチカーネル学習によって自動推定するドメイン適応を検討する．これは，問題が解きやすくなるような事例の拡張空間を考え，拡張空間における最適なカーネル関数をSVMとマルチカーネル学習によって求める手法である．このような手法により，両ドメインの分布を高次元空間で近づけるのに適したカーネル関数が得られる．最後に，実験によって本手法の有効性を検討する．