基于深度卷积神经网络的特征优化与分类识别方法研究

摘要

模式识别是人工智能领域内的一个重要分支，能够让机器观察周围环境并学习对不同的模式做出相应的判断。特征的好坏是模式识别系统发挥性能的关键，因此，需要一种通用的特征优化方法。本课题立足于模式识别问题中特征优化与分类识别两个方面，在使用深度卷积神经网络(Deep Convolutional Neural Network，DCNN)进行分析的基础上，研究在不同实际问题下如何对特征进行优化，从而对达到提高识别率的效果，并加深对于网络行为的理解。其主要研究内容包括：
　　(1)在分析基于DCNN的二分类问题的特征优化方法的同时，结合脑机接口(Brain Computer Interface，BCI)中二分类运动想象的具体例子，提出基于DCNN的共同空间模式(Common Spatial Pattern，CSP)自适应特征优化方法。在原始脑电信号经过预处理的基础上，通过CSP空间变换获得其相应的特征矩阵。应用DCNN对特征矩阵进行学习，对收敛后的DCNN网络全连接层的权值进行分析，根据网络学习特性定义CSP矩阵特征筛选准则，得到降维高效的 EEG特征集 F，计算特征集 F规模构建 CNN分类器。我们工作在BCI2005Ⅳa竞赛数据集上进行实验测试，获得88.3%的识别准确率。本方法与CSP方法的改进方法sCSP和KLCSP方法在相同数据集上进行测试，平均识别准确率分别提升了3.2%和2.4%。
　　(2)在二分类问题的基础上，进一步分析基于DCNN的多分类问题的特征优化方法的同时，针对语音信号认知中构建实际系统中需要优选有效特征的问题，提出了一种基于DCNN的特征降维方法。对原始语音情感数据提取大量特征，应用DCNN对特征矩阵进行学习，提取权值并根据网络学习特性定义特征筛选准则MCFR-DCNN，计算对比每类特征激活权值的不同，得到降维高效的语音情感认知特征集F。在中国科学院自动化研究所提供的多模态情感数据库CHEAVD上，我们提取全部八类情感数据进行了实验测试，使用全体特征集构建DCNN分类器相比基线类平均识别错误率减少了2.1%，而本方法得到的降维后特征集F通过相同的DCNN分类器相比基线类平均错误率较少了9.4%。本方法仅使用原特征集15%的特征，不仅减少了构筑实际语音情感识别系统的复杂程度，还使得识别错误率还有所减小。
　　(3)在进一步分析使用 DCNN对基于复杂特征的多分类问题进行研究的同时，结合具体的物体识别的例子，提出了基于DCNN的权值矩阵特性的复杂特征优化方法。使用DCNN对原始数据进行学习后提取全连接层权值，根据网络学习特性定义特征价值矩阵，进而将原始数据与特征价值矩阵进行线性组合得到新的数据集。在大规模图像数据库ImageNet上进行了实验测试，分别使用3种分类器，相对于全部数据集，使用经过特征优化后的数据集在识别率上有所提高。
　　本文研究针对不同数据的不同特征形式，采用DCNN网络学习特性进行特征二次优选与降维，为模式识别领域中的特征优化与分类识别问题提供了一个新的思路。

目录

第1章 绪 论

1.1 课题背景和意义

1.2 国内外研究综述

1.3 当前研究存在的问题

1.4 本文研究内容及章节安排

第2章 深度卷积神经网络工作原理及实现基础

2.1 引言

2.2 卷积神经网络技术原理

2.3 深度卷积神经网络的网络结构参数

2.4 卷积神经网络的实现基础

2.5 本章小结

第3章 基于DCNN的二分类问题的特征优化方法研究

3.1 引言

3.2 单输出DCNN权值矩阵分析方法

3.3 公共空间模式的二分类筛选自适应优化方法

3.4 EEG运动想象实验及结果分析

3.5 本章小结

第4章 基于DCNN的多分类问题特征优化方法研究

4.1 引言

4.2 基于DCNN的多分类问题特征筛选准则研究

4.3 八分类语音情感识别实验及结果分析

4.5 本章小结

第5章 基于DCNN的复杂特征优化方法研究

5.1 引言

5.2 基于DCNN的复杂特征筛选准则

5.3 多分类目标识别实验及结果分析

5.4 本章小结

结论

参考文献

攻读学位期间发表的学术论文

声明

致谢