稀疏表示下支持向量机核函数选择

摘要

支持向量机是一种基于核的学习方法，核函数在支持向量机中占有举足轻重的地位。不同核函数蕴藏的几何度量特征各异，选择不同的核函数导致支持向量机泛化能力存在差异。由于核函数选取对构建的支持向量机模型性能有着重要的影响，如何有效地进行核函数选择是目前支持向量机研究领域中的一个重要研究课题。
　　当下，关于支持向量机核函数的选择大多依靠经验，缺乏具体的理论指导，这显然存在很大的局限性和不确定性。因此，构建出一种既能结合样本的先验信息，又能兼顾核函数蕴藏的几何度量特征的有监督的支持向量机核函数选择机制，有效地避免其盲目性。本文重点地对支持向量机核函数选择方法进行了一些研究，主要的工作有：
　　1、在核函数理论方面，对不同核函数的度量特征进行了分析与探讨。先从核函数蕴含的几何特征方面入手，分别介绍了常用核函数的黎曼、距离以及角度三种度量特征，并对其度量特征的几何意义进行了阐述。
　　2、在前期研究工作中提出一种基于样本分布特征的支持向量机核函数选择方法。该方法对给定的样本数据进行超球体描述，建立样本分布能量熵函数，并计算各样本的能量熵，构建样本分布判别函数及计算其判别结果；然后根据其判别结果与核函数几何性质的相似性选择核函数类型；最后参数优化和支持向量机模型确定。这是一种既能根据具体对象的样本信息，又能兼顾核函数所蕴藏的度量性质的有指导的支持向量机核函数选择方法，同时具有运算速度快、非常适合实时在线支持向量机模型预测控制场所等特点。
　　3、结合稀疏表示理论对样本数据的属性表示和建模能力，本文提出了一种稀疏表示下支持向量机设计方法。首先由给定具体问题的样本数据构建不同核函数模型下的稀疏字典；然后依据稀疏表示系数的属性，遴选出适合实际问题的支持向量机核函数模型；最后基于相关方法优化相应参数并最终确定支持向量机模型。该方法是一种有指导性的支持向量机核函数选择实用方法，有效地克服了传统的支持向量机模型选择方法中人为指定核函数类型而导致模型不能达到最优性能的缺点。
　　通过实例仿真证明，上述方法能有效地利用实际问题的样本数据先验信息，兼顾不同核函数的度量特性进行支持向量机建模，具有较强的泛化能力，是一种有指导的核函数选择实用方法，能提高其泛化能力。本文的研究内容，有助于丰富支持向量机核函数选择的方法，对于支持向量机建模具有一定的指导意义。

目录

封面

声明

中文摘要

英文摘要

目录

第一章 绪论

1.1 课题研究背景

1.2 课题研究现状与发展方向

1.3 本文的主要工作和创新点

1.4 研究意义

1.5 本文主要的符号

1.6 本文主要内容及章节安排

第二章 支持向量机理论

2.1 引言

2.2 统计学习理论

2.3 支持向量机理论

2.4 本章小结

第三章 核函数

3.1 核函数、正定矩阵与正定核

3.2 核函数的性质

3.3 常用的核函数类型

3.4 核函数的度量特征

3.5 本章小结

第四章 稀疏表示理论

4.1 引言

4.2 稀疏表示理论的问题描述

4.3 稀疏字典

4.4 稀疏编码

4.5 本章小结

第五章 基于样本分布特征的支持向量机核函数选择方法

5.1 引言

5.2 理论基础

5.3 算法框架

5.4 实例仿真

5.5 本章小结

第六章 稀疏表示下的支持向量机核函数选择

6.1 引言

6.2 方法概述

6.3 算法步骤

6.4 实验仿真与分析

6.5 本章小结

第七章 总结与展望

7.1 总结

7.2 展望

参考文献

致谢

攻读学位期间的研究成果