支持向量机中两种光滑优化算法的应用与比较

摘要

该文先扼要介绍统计学习理论中有关的重要结论和SVM的基本原理,介绍了光滑支持向量机(Smooth Support Vector Machine,简称SSVM).在讨论了求解其中无约束优化问题的Newton-Armijo算法之后,该文采用了一种新的途径——用Newton-PCG算法求解其中的无约束优化问题.该文进行了初步数值试验,文中结合实际的美国威斯康辛大学的乳癌数据库中的数据,进一步分析和比较了Newton-Armijo算法和Newton-PCG算法在光滑支持向量机方法的实际应用中的有效性.并且得出这样的结论,随着数据量的增大,Newton-PCG算法的运行效率的提高速度要大于Newton-Armijo算法.因此在解决大规模数据量的问题时(诸如在经济等领域中),有着较好的应用前景.

目录

文摘

英文文摘

独创性声明和关于论文使用授权的说明

第一章绪论

1.1研究的目的和意义

1.2国际国内研究状况和进展

1.3本论文的主要工作

第二章统计学习理论基础及支持向量机

2.1经验风险最小化准则下统计学习的一致性和VC维

2.2支持向量机

第三章用于分类的光滑支持向量机

3.1光滑支持向量机简介

3.2光滑支持向量机

3.3解决SSVM的NEWTON-ARMIJO算法

3.4关于非线性核的SSVM

第四章NEWTON-PCG算法

4.1介绍

4.2算法模型

4.3可应用CF-PCG(p；l……：a1,……a1)算法及其效率分析

4.4 SSVM问题的NEWTON-PCG算法实现

第五章数值测试结果和比较

5.1实验设计

5.2实验结果

5.3实验结果的比较与分析

第六章结论与展望

6.1结论

6.2展望

参考文献

致谢

符号说明

附录1

附录2