路径跟踪法线性规划支持向量机的研究

摘要

支持向量机(Support Vector Machine，SVM)是基于结构风险最小化原则和统计学习理论(Statistical Learning Theory，SLT)上的一种新型机器学习方法，具有出色的学习性能、泛化性能。传统标准支持向量机是一个求解二次型规划(Quadratic Programming，QP)问题。当训练集规模很大时，就会出现训练算法复杂、训练速度明显变慢、训练效率骤然下降等问题。目前支持向量机参数的选取一直没有一套成熟的理论作为支撑，这给支持向量机的应用带来很大的不便。针对以上问题本文做了如下两方面的研究:
　　(1)提出了一种路径跟踪线性规划支持向量机(Path Follow Linear Programming support vector machine，PF-LPSVM)。首先构造出线性规划支持向量机模型，并用路径跟踪内点法对该模型进行训练，提高训练效率。在随机数据集及UCI数据集上进行实验，将实验结果进行对比分析，可以得出改进后的支持向量机模型无论是在分类效率还是分类精度上都有所提升。
　　(2)针对支持向量机最佳组合参数选取问题，本文应用一种低偏差蒙特卡罗序列的量子遗传算法(Low-Discrepancy Quantum Genetic Algorithm，LDQGA)优化支持向量机模型的参数，寻找最合适的组合参数，最后将所得到的最佳组合参数应用到已优化的PF-LPSVM模型上，并与量子遗传算法和3-fold交叉验证方进行实验对比，从实验结果可看出无论在分类精度还是分类效率都有所提高，验证了该方法在支持向量机最佳组合参数选取上的有效性。

目录

声明

摘要

第一章 绪论

1．1 研究背景

1．2 研究现状

1．2．1 线性规划支持向量机

1．2．2 支持向量机的参数优化

1．3 研究内容和论文组织

第二章 路径跟踪线性规划向量机的研究

2．1 传统SVM

2．2 线性SVM

2．3 路径跟踪内点法

2．4 PF_LPSVM算法

2．4．1 算法思想

2．4．2 算法描述

2．4．3 算法流程

2．5 实验

2．5．1 实验环境与数据

2．5．2 实验结果

2．6 本章小结

第三章 LDQGA算法在PF-LPSVM参数寻优上的应用

3．1 问题的提出

3．2 LDQGA算法

3．2．1 算法思想

3．2．2 算法描述

3．2．3 算法流程

3．3 基于LDQGA优化的PF_LPSVM算法

3．3．1 具体步骤

3．3．2 流程描述

3．4 实验

3．4．1 实验环境与数据

3．4．2 实验结果及其分析

3．5 本章小结

4．1 主要工作成果

4．2 未来工作

参考文献

致谢

攻读硕士学位期间发表论文情况