SVM多类分类及其在遥感图像中的应用

摘要

支持向量机(SVM)是在Vapnic的统计学习理论基础上发展起来的一种新的模式识别方法。它以结构风险最小化(SRM)为原则，通过实现确定的非线性映射将输入向量映射到一个高维特征空间中，然后在此高维空间中构建最优分类超平面。SVM在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势，并能够推广到函数拟合等其他机器学习问题中。目前，将SVM应用于模式识别领域，是当前SVM的一个研究热点。 最初SVM是用以解决两类分类问题，不能直接用于多类分类。因此如何有效地将其推广到多类分类问题还是一个正在研究的问题。当前已经有许多算法将SVMs推广到多类分类问题，这些算法统称为“多类支持向量机“(Multi-category Support Vector Machimes，M-SVMs)。本文提出了一种基于编码二叉树的多类支持向量机——CB-SVMs，算法舍弃了各子分类器间大量冗余信息及其较小的纠错补偿，合理利用了其它子分类器的分类信息，大大减少了子分类器的数目。复杂度分析和在标准测试数据集上的计算结果表明：CB-SVMs相对其它M-SVMs，有效提高了训练速度和测试速度，同时具有构造简单、稳定性好的优点。 本文最后介绍了遥感图像分类的基本理论和算法，通过将CB-SVMs应用到遥感图像分类中去，表明了CB-SVMs算法具有较高的分类精度和泛化性能。同时说明了SVM算法在遥感图像分类方面良好的应用前景。

目录

文摘

英文文摘

华南理工大学学位论文原创性声明及学位论文版权使用授权书

第一章绪论

1.1引言

1.2支持向量机

1.3支持向量机研究现状

1.4遥感图像技术[21]

1.5本文的研究与组织

第二章统计学习理论及支持向量机

2.1统计学习理论发展概述

2.1.1基本概念

2.1.2发展历史

2.2统计学习理论的基本内容

2.2.1机器学习的基本问题

2.2.2统计学习理论的核心内容

2.3支持向量机概述

2.3.1最优分类超平面

2.3.2线性可分情况下SVM的建立

2.3.3软边缘

2.3.4高维空间中的推广

2.3.5核函数

2.4支持向量机大样本训练算法

2.5本章小结

第三章基于编码二叉树的多类支持向量机

3.1多类支持向量机

3.1.1 1-a-r(1-aginst-rest)法

3.1.2 1-a-1(1-aginst-1)法

3.1.3有向无环图SVMs

3.1.4纠错编码SVMs

3.1.5 SVM决策树

3.2基于编码二叉树的多类支持向量机(CB-SVMs)

3.2.1编码二叉树

3.2.2 CB-SVMs算法流程

3.3结果分析

3.3.1复杂度分析

3.3.2实验分析

3.4本章小结

第四章支持向量机在遥感图像处理中的应用

4.1特征选择和特征提取

4.1.1类别可分性准则

4.1.2特征提取

4.2遥感图像分类方法

4.2.1 C-均值聚类算法

4.2.2 ISODATA聚类算法

4.2.3最大似然法[35]

4.2.4人工神经网络方法

4.3基于编码二叉树的多类SVM在遥感图像分类中的应用

4.3.1噪音处理

4.3.2图像分类结果

4.4本章小结

结 论

参考文献

攻读硕士学位期间发表的论文

致 谢