卷积神经网络优化及其在行人再识别上的应用研究

摘要

随着软硬件技术的不断发展及大数据时代的来到，深度学习已经成为了研究的热点。并在图像识别、语音识别和自然语言处理等领域都取得了卓越的成果。卷积神经网络是一种常用的深度学习方法，同时是目前发展较好的深度学习方法之一。相对于传统方法，此方法能够自主学习到高效的特征并进行分类。但是若卷积神经网络层次过深，网络参数过多，可能会导致网络的训练速度减慢，难以收敛等问题。为了设计出识别率更高且参数更少的网络，本文在改善经典卷积神经网络结构的基础上，不断优化参数，得到了网络性能较好的训练模型，实现了提高识别率和减少参数的目的。最终将卷积神经网络应用于行人再识别领域，其实验结果验证了模型的有效性。 本文的主要研究内容与创新点如下： （1）介绍了卷积神经网络的基本概念，主要包括工作原理、网络基本结构等；简述了深度学习的Caffe框架、数据预处理方法及实验阶段所使用的数据集。 （2）针对传统的卷积神经网络提取特征信息不够充足，分类精度较差，容易过度拟合等问题，提出了一种基于多分支聚合的卷积神经网络。此网络在传统卷积神经网络的基础上，不增加参数的同时增加网络宽度和深度，优化和改善网络，进一步提高网络的特征表达能力，丰富提取特征的多样性，提高图像分类精度，防止网络过度拟合。最后通过在两个公开数据集CIFAR-10和CIFAR-100上进行的一系列比较实验，对此网络、传统网络及其他网络进行了比较与分析，从而证明了此网络的有效性。 （3）针对传统深度卷积神经网络虽然分类精度较好，但是参数量巨大，难以在内存受限的设备上进行部署的问题，提出了一种多尺度并行融合的轻量级卷积神经网络架构PL-Net。首先，将上层输出特征图分别送入两种不同尺度的深度可分离卷积层，然后对并行输出特征信息进行交叉融合，并加入残差学习，设计了一种并行轻量型模块PL-Module；同时，为了更好地提取特征信息，利用尺度降维卷积模块SR-Module来替换传统池化层，最后将上述两个模块相互堆叠构建轻量级网络。实验阶段，在CIFAR-10，Caltech-256和Food-101数据集上进行训练与测试。结果表明，与同等规模的传统CNN，MobileNet-V2网络及SqueezeNet网络相比，PL-Net在减少网络参数的同时，提升了网络的分类精度，适合在内存受限的设备上进行部署。 （4）行人再识别是智能视觉领域的一个极具研究价值的方向，但是由于拍摄环境的不可控性导致了研究的难点，因此本文将卷积神经网络应用于行人再识别领域，采用轻量级的网络提高行人再识别的准确率，并与其他四种网络模型在Market1501、Duke两个公开行人再识别数据集的测试集上进行性能评估，证明了提出方法的有效性。最后，编写了行人再识别的可视化工具，能够显而易见的展示模型效果。

目录

第1章 绪论

1.1 研究背景及意义

1.2 国内外研究现状

1.2.1 卷积神经网络国内外研究现状

1.2.2 行人再识别国内外研究现状

1.3 主要研究工作

1.4 论文的结构安排

第2章 卷积神经网络

2.1 人工神经网络

2.1.1 神经元

2.1.2 前向计算过程

2.1.3 反向传播过程

2.2. 卷积神经网络结构

2.2.1 卷积层

2.2.2 激活层

2.2.3 池化层

2.2.4 全连接层

2.3 卷积神经网络的优点

（1）像特征的层次化结构

（2）仿生物学理论

（3）积神经网络的局部连接属性

（4）积神经网络的权值共享特性

（5）积神经网络端对端的处理方式

2.4 本章小结

第3章 多分支汇聚卷积网络设计

3.1 硬件环境及Caffe框架

3.2 AlexNet网络

3.3 基于多分支汇聚的卷积结构设计

3.3.1 多分支汇聚结构模块

3.3.2 多分支汇聚整体网络设计

3.4 多分支汇聚网络的训练与实验过程

3.4.1 数据集介绍

3.4.2 图像预处理

3.4.3 网络参数选取

3.4.4 实验结果分析

3.6 本章小结

第4章 多尺度并行融合的轻量级卷积网络设计

4.1 轻量级卷积网络

4.2 残差学习结构

4.3 深度可分离卷积结构

4.4 多尺度并行融合的轻量级网络设计

4.4.1 并行轻量级结构

4.4.2 多尺度并行融合网络设计

4.5 多尺度并行融合的轻量级网络的训练与实验过程

4.5.1 数据集介绍

4.5.2 网络参数选取

4.5.3 网络训练结果

4.5.3 网络模型对比分析

4.6 本章小结

第5章 基于轻量卷积网络的行人再识别

5.1 基于卷积网络的行人再识别

5.1.1 行人再识别过程

5.1.2 余弦距离

5.2 数据集介绍及预处理

5.2.1 数据集介绍

5.2.2 数据集预处理

5.3 行人再识别评估标准

5.3.1 CMC曲线

5.3.2 mAP精度

5.4 行人再识别卷积网络的设计

5.5 网络的参数设置及其性能对比

5.6 可视化工具的编写与结果展现

5.7 本章小结

第6章 总结与展望

6.1 总结

6.2 展望

参考文献

攻读硕士学位期间取得的学术成果

致谢

声明