K插值单纯形法核极限学习机的研究

摘要

核极限学习机消除了传统极限学习机的系数矩阵病态问题，但其训练模型所用的核函数存在核函数类型以及核参数需要选优的问题，两者选择不当，会导致核极限学习机的训练收敛慢和分类精度下降。针对以上问题，本文提出一种K插值单纯形法核极限学习机，主要研究工作如下:
　　(1)针对核极限学习机最常用的高斯核函数参数选优难的问题，用Nelder-Mead单纯形法搜索最优核参数;并引入K插值法为Nelder-Mead单纯形提供搜索初值，解决Nelder-Mead单纯形法对核参数初值敏感的问题，避免单纯形法陷入局部最优解。从而实现核极限学习机的核参数自适应寻优，提高核极限学习机的分类精度。
　　(2)针对核极限学习机核函数选择问题，提出用高斯核和多项式核的组合核函数法克服单一核函数的不足，发挥两种核函数非线性特征映射能力。主要方法为:先用K插值单纯形法确定最优核参数，后采用优选组合策略，调整组合系数，构造出新的组合核函数，提升算法对数据样本非线性特征的辨识能力。
　　最后在UCI数据集上，以及模式识别问题上验证算法的有效性。实验结果表明，所提算法的分类精度均优于相比较算法，本文改进核极限学习机的思路是可行的。

目录

声明

摘要

1．1 研究背景与意义

1．2 研究现状

1．2．1 极限学习机研究进展

1．2．2 核极限学习机研究进展

1．3 研究内容和创新点

1．4 论文组织结构

第二章 相关理论简介

2．1 极限学习机

2．2 核极限学习机

2．3 Nelder-Mead单纯形法

2．4 全局核函数与局部核函数

2．4．1 局部核函数

2．4．2 全局核函数

2．5 本章小结

第三章 K插值单纯形法核极限学习机

3．1 核极限学习机算法的不足与解决思路

3．2 KS-KELM算法的指导思想和设计思路

3．3 一维单纯形法寻优核参数子算法

3．3．1 新单纯形法算法描述

3．3．2 新单纯形法算法流程

3．4 K插值单纯形法核极限学习机

3．4．1 KS-KELM算法描述

3．4．2 KS-KELM算法流程

3．4．3 KS-KELM算法时间复杂度分析

3．5 数值实验与分析

3．5．1 实验环境及数据

3．5．2 实验结果及分析

3．6 本章小结

第四章 K插值单纯形法多核极限学习机

4．1 问题的提出

4．2 K插值单纯形法寻优多项式核参数

4．2．1 算法描述

4．2．2 算法流程

4．3 K插值单纯形法的多核极限学习机(EKS-KELM)

4．3．2 EKS-KELM算法流程

4．4 数值实验与分析

4．4．1 实验环境及数据

4．4．2 实验结果与分析

4．5 本章小结

5．1 总结

5．2 展望

参考文献

致谢

攻读硕士学位期间发表论文情况