基于流形学习的半监督分类方法及其应用

摘要

信息技术和互联网的飞速发展，使得从多个数据源得到的多种形态的数据不断的呈指数级增长。如何对这些海量的复杂高维数据进行快速有效的处理、提取用户所需要的有价值信息是理论与应用数学、模式识别和计算机视觉等领域的学者们所共同关注的问题。大量的数据往往表现出很明显的非线性特性，为了很好地解决这一问题，人们提出了流形学习算法。流形学习是一种有效的数据处理工具，可以从原始高维数据中挖掘有效精简的信息并发现数据的低维本质属性。但目前的流形学习算法多是无监督的算法，没有利用到样本数据的先验信息。如能获得部分样本的先验信息，可以在训练阶段利用这些信息来提高分类器的分类性能，进而对普通学习算法进行推广得到其半监督算法。
　　在处理高维样本数据时，通常会先对样本数据进行降维操作，主成分分析(PCA)算法就是一种常用的高维数据降维算法。考虑到 PCA算法因未能充分利用样本的先验信息，导致降维效率有限，而且监督学习和非监督学习算法在已标记样本数据利用方面存在很多不足，本文提出了一种基于流形判别分析的半监督支持向量机算法，通过定义基于流形的类内离散度和类间离散度，充分发挥流形判别分析的性质，从而更深入地改进半监督支持向量机，在分类决策时同时考虑了样本数据集的边界信息、分布特征和它的局部流形结构，该方法不仅继承了传统机器学习降维方法的优势，而且使算法的降维效率和分类准确率得到了较大提高。通过在 ORL人脸数据库上的实验，验证了该算法的有效性。

目录

封面

声明

中文摘要

英文摘要

目录

1 绪论

1.1 研究背景

1.2 研究意义

1.3 论文的研究内容及组织结构

1.3.1 本文主要研究内容

1.3.2 论文组织结构

2 流形学习方法简介

2.1流形学习的研究背景

2.1.1 数据降维

2.1.2 流形学习基本概念

2.2流形学习基本算法及动态

2.2.1线性流形学习算法

2.2.2非线性流形学习算法

2.2.3其它具有代表性的非线性流形学习算法

2.2.4流形学习发展动态

2.3 流形学习算法中已知的问题

2.4 小结

3 半监督流形学习算法

3.1半监督学习算法

3.1.1 监督学习算法和无监督学习算法

3.1.2 半监督学习算法

3.2 有监督流形学习算法

3.2.1 基于Isomap的监督学习算法

3.2.2 基于LLE的监督算法

3.3 半监督流形学习算法

3.3.1 半监督流形学习算法思想

3.3.2 基于图的半监督算法

3.3.3 基于测地线距离的半监督分类

3.4 一种基于流形判别分析的半监督支持向量机算法(MDASSVM)

3.4.1 流形判别分析(MDA)

3.4.2 半监督支持向量机

3.4.3 基于流形判别分析的半监督支持向量机算法

3.4.4 多分类支持向量机算法

4 基于流形判别分析的半监督支持向量机算法的应用

4.1 引言

4.2 半监督流形学习的应用

4.2.1实验设置

4.2.2人工生成数据及UCI数据集

4.2.3人脸识别中的应用

4.3 本章小结

5总结与展望

参考文献

致谢