极速学习机优化方法研究

摘要

极速学习机是一种新颖的机器学习算法,在输入权值和隐含层偏置值随机设置的情况下,网络的所有参数就不必迭代的调整,而是通过求一个最小化误差二范数的最小二乘解来获取。因为当隐含层参数随机设置时,输出层权值就能够以解析的形式求出解的形式,所以能够实现非常快速的学习,该方法具有原理简单、学习快速、适应性好的特点。
　　虽然极速学习机简单快速,但是极速学习机对网络的输入数据还是有要求的,当遇到大规模数据或者数据中的离群点过多时就会影响到网络的训练效果,这就需要进行网络结构的优化。与此同时,对于极速学习机的核函数的选取也是一个值得讨论的问题,再有就是对核函数的优化问题。针对以上问题,本文主要是对极速学习机算法进行了优化研究,侧重点为网络结构模型优化和极速学习机核函数的优化。
　　文章的主要内容大体如下:
　　1.结合了粗糙集基于决策表属性约简算法,对极速学习机原始网络结构中加入了一个数据预处理层,位于输入层和隐含层中间,将输入数据样本进行属性约简,去掉冗余属性,降低样本的维度。
　　2.提出了基于小波核函数的极速学习机优化算法来对网络进行学习训练,综合考虑了核函数对极速学习机的影响,并且与传统的极速学习机算法相比具有更高的学习精度。
　　3.提出了基于混合核函数的极速学习机算法,结合了局部核函数和全局核函数的优势,将两者结合而成的混合核函数再应用到极速学习机中作为其核函数来对样本进行训练,是对极速学习机核函数的优化,使得算法的学习性能和泛化性能同时得到了提升。

目录

封面

声明

致谢

中文摘要

英文摘要

目录

Contents

图清单

表清单

1绪论

1.1课题研究背景（Research Background）

1.2课题意义描述（Significance Description）

1.3国内外研究现状（Research Current Status）

1.4研究内容与组织结构（Research Contents and Structure）

1.5本章小结（Summary）

2相关基础理论知识2 Basic Theory

2.1粗糙集基础理论（Basic Theory of Rough Set）

2.2 RBF神经网络概述（RBF Neural Network Review）

2.3极速学习机算法概述（Review of Extreme Learning Machine

2.4 RBF神经网络结构优化（Structure Optimization of RBF Neural

2.5本章小结（Summary）

3基于粗糙集的极速学习机预测算法研究

3.1基于粗糙集的ELM算法模型（Algorithm Model of ELM Based

3.2基于粗糙集的 ELM 算法过程（Algorithm Process of ELM

3.3实验分析（Experiment and Analysis）

3.4本章小结（Summary）

4基于小波核函数的极速学习机优化算法研究

4.1基于小波核函数的极速学习机数学模型（Mathematics Model

4.2小波核函数(Wavalet Kernel Function)

4.3基于小波核函数的极速学习机优化算法描述（ Algorithm

4.4实验分析（Experiment and Analysis）

4.5本章小结（Summary）

5基于混合核函数的极速学习机优化算法研究

5.1核函数介绍（Introduction of Kernel Function）

5.2基于混合核函数的极速学习机优化算法步骤（Algorithm Steps

5.3实验分析（Experiment Analysis）

5.4本章小结（Summary）

6结论与展望

6.1结论（Conclusions）

6.2展望（Prospects）

参考文献

作者简历

学位论文数据集