基于稀疏图的半监督学习方法研究

摘要

随着计算机存储、运算技术的飞速发展以及人类收集和存储数据能力的不断增强，机器学习已经成为计算机科学技术中最受关注的领域之一。有监督学习（例如分类、回归）、无监督学习（例如聚类）等是机器学习领域常用的两种方法。然而训练样本数目很少时有监督学习难以准确学习出样本的真实分布，不需要训练样本的无监督学习对于空间分布较复杂的数据难以得到好的学习效果。因此，结合两种传统学习方法的半监督学习利用大量未标记样本辅助有限的有标记样本提高了学习的准确性。
　　基于图的半监督学习是半监督学习中的一个研究热点。近年来，稀疏表示开始应用于半监督图的构造中，它将连接关系的确立和连接权值的计算一步确立，得到了很多学者的关注。低秩表示是最新提出的能够挖掘数据结构特性的联合稀疏表示模型。本文将低秩表示引入到图矩阵的构造中，提出了几种基于图的半监督学习算法，具体研究内容如下:
　　(1)提出了一种基于核低秩表示图(KLRG)的半监督学习算法。在该算法中，先通过核函数将样本集合映射至特征空间，再对映射后的样本集进行低秩表示得到低秩编码系数矩阵，从而构造图进行半监督分类。由于核映射加强了数据的可分性，低秩表示给解进行了全局的约束，核低秩表示能够自然的反映出数据的全局结构性，从缺损数据中实现更加鲁棒的子空间分割。在UCI数据集、人脸数据库等和其他一些Benchmark数据集上进行仿真实验，实验结果表明:该算法与同类算法相比，分类正确率有所提高。
　　(2)提出一种基于KLRG和成对约束的半监督学习算法。在谱聚类中已证明加入成对约束有较好的性能，本文根据少量标记信息和距离信息构造成对约束矩阵，将其和核低秩表示矩阵进行点积，构造新的图进行划分。在常用的标准人脸数据库和手写体数字数据库上进行的仿真实验验证了该算法的有效性，并用于纹理图像的分割。
　　(3)提出了一种基于KLRG和空间约束的高光谱地物分类算法。在KLRG方法的基础上，对高光谱图像的类标进行光滑性假设，通过空间约束的思想，构造空间约束图，将空间位置的信息加入到KLRG图中。由于获得的图矩阵增强了标记的平滑性，减少了奇异点的出现，因此在后续分类中可获得更高的分类正确率。在高光谱数据上进行实验仿真，结果显示:与同类算法相比，分类正确率有所提高。

目录

声明

摘要

1．绪论

1．1 研究背景

1．2 半监督学习

1．2．1 半监督分类

1．2．2 半监督聚类

1．3 论文的主要工作与架构安排

第二章 基于图的半监督分类方法

2．1 基于图的半监督学习概述

2．2 几种常见的基于图的半监督学习方法

2．2．1 最小割

2．2．2 基于高斯场和调和函数的方法

2．2．3 局部和全局一致性方法

2．2．4 流形正则化方法

2．3 图的构建

2．3．1 全连接图

2．3．2 K近邻图

2．3．3 ε近邻图

2．3．4 局部线性嵌入(LLE)图

2．3．5 L1图

2．4 本章小结

第三章 基于核低秩表示图的半监督分类

3．1 稀疏L1图

3．2 基于低秩表示的子空间分割

3．3 基于核低秩表示图的半监督分类

3．3．1 基于稀疏图的半监督分类

3．3．2 基于核低秩表示图的半监督分类算法

3．4 实验结果与分析

3．4．1 人工数据集实验

3．4．2 UCI数据集实验

3．4．3 人脸数据库实验

3．4．4 参数对算法性能的影响

3．4．5 算法鲁棒性分析

3．5 本章小结

第四章 基于KLRG和成对约束的半监督分类

4．1 半监督谱聚类中的成对约束

4．2 基于KLRG和成对约束的半监督学习算法

4．3 实验与结果分析

4．3．1．人脸数据库实验

4．3．2 手写体数据集实验

4．3．3 纹理图像分割实验

4．4 本章小结

第五章 基于KLRG和空间约束的高光谱地物分类

5．1 高光谱遥感简介

5．2 基于空间约束和KLRG的半监督分类算法

5．2．1 高光谱图像分类中的空间约束

5．2．2 基于KLRG和空间约束的半监督分类算法

5．3 高光谱图像实验与结果分析

5．3．1 Indiana Pines实验

5．3．2 Salinas-A实验

5．3．3 参数对算法性能的影响

5．4 小结

第六章 总结与展望

6．1 总结

6．2 展望

致谢

参考文献

研究生期间的成果