基于最大均值差异和概率图嵌入的非监督迁移学习算法研究

摘要

世界由不同的领域组成，通过某种方式收集到的数据集可以被看成是一个领域，不同方式收集到的数据集可以被看成是不同的领域，传统机器学习的目标是通过最小化训练数据的正则化经验风险，找到一个对测试数据的期望风险最小的模型，但是这类模型常常基于同分布假设，即训练数据集和测试数据集具有相似的联合概率分布，这种假设在现实生活中往往并不成立，因为不同领域的数据集常常具有不同的分布，迁移学习的目的是通过从语义相关但分布不同的源领域数据集学习知识，构建能够执行目标域任务的模型，迁移学习是一个影响力日益增加且充满活力的研究领域，本文回顾并总结了迁移学习近期的进展，并且提出了两个新的迁移学习算法：　　1）提出了一个健壮的迁移学习框架——迁移浅层表示，这个框架建立在一个简单的线性自编码机上，它可以很好地保持源领域和目标领域共同的属性，自编码机中的编码器可以将两个域的数据投影到一个潜层空间中，解码器附加了一个约束，即源领域数据集可以通过投影得以重构，此外，该框架还集成了最大化均值差异和流形正则化，这一操作可以进一步缩小源领域和目标领域之间的距离。在两个跨域识别数据集上的实验表明，迁移浅层表示算法比现有的非监督域自适应算法更有效、更鲁棒。　　2）设计了一种概率图嵌入算法，概率图嵌入算法首先推导目标领域样本属于每个类别的概率，然后通过构造类内图来学习一个源领域和目标领域公共的投影矩阵，这个投影矩阵可以将两个领域样本投影到一个公共的子空间中，在这个子空间中，领域差异会被极大地减少，在跨领域目标识别数据集上的实验表明概率图嵌入算法由于大多数经典的非监督域自适应方法。

目录