基于SVM的混合神经网络模型的构造与实现

摘要

该文提出了SVMCNN (基于SVM的混合神经网络)模型(结构图见正文中图4-1,p47),SVMCNN由一个支持向量机阵列(SVMA)与多个子神经网络构成,先由SVMA对输入样本进行粗分类,再由相应的子神经网络进行细分类,子神经网络的输出即是整个SVMCNN的分类结果.SVMA由多个支持向量机按照一定的策略组合而成.支持向量机是最近发展起来的一种机器学习算法,是一个通用的二值分类器,如何使用支持向量机这一二值分类器构造多值分类器,是目前国际上的研究热点.该文采用一对一的方式,构造了支持向量机阵列的结构(结构图见正文中图4-2,p48)及其相应的搜索策略,对任何输入样本,只需选择(N-1)个支持向量机进行操作就能得到最终的分类结果,大大提高了效率,节省了粗分类时间.子神经网络可以根据实际需要采用不同的网络结构,包括BP网络,Hopfield网络、SOM自组织网络等.为了验证SVMCNN模型求解巨大训练样本集的多类分类问题的可行性,该文以二维样本分类为例,对SVMA粗分类效果进行了实验,实验表明分类精度高,且分类速度快.由于SVM算法与训练样本的维数无关,仅与其数目有关,因此该结论也适用于高维样本.

目录

文摘

英文文摘

序言

第一章人工神经网络

§1.1综述

§1.2 ANN的特点

§1.3神经元的形式化描述

§1.4 ANN的典型网络

§1.4.1单层感知机网络

§1.4.2BP网络

§1.4.3 Hopfield网络

§1.5 ANN学习算法的不足

第二章支持向量机

§2.1支持向量机的由来

§2.2统计学习理论的核心内容

§2.2.1机器学习的数学描述

§2.2.2 VC维

§2.2.3推广性的界

§2.2.4结构风险最小化

§2.3支持向量机

§2.3.1线性SVM

§2.3.2广义最优分类面

§2.3.3非线性SVM

§2.3.4 SVM实现SRM的依据

§2.3.5用于多值分类的SVM

§2.3.6 SVM与ANN的比较

第三章混合神经网络

§3.1整体法

§3.1.1组合神经网络

§3.2模块法

§3.2.1模块法的优点

§3.2.2任务分解

§3.2.3模块之间的关系

§3.2.4混合神经网络

§3.2.5大规模人工神经网络(LSANN)

§3.3组合神经网络、混合神经网络、LSANN的比较

第四章基于支持向量机的混合神经网络模型

§4.1基于支持向量机的混合神经网络(SVMCNN)

§4.1.1支持向量机阵列(SVMA)

§4.1.2子神经网络

§4.1.3训练与识别流程

§4.1.4 SVMCNN的特点

§4.2 SVMCNN的性能分析

§4.2.1实验环境

§4.2.2软件实现

§4.2.3实验结果

§4.2.4结果分析

结束语

参考文献

致谢