轻量化的人脸识别DCNN研究

摘要

目前很多人脸识别系统采用了深度卷积神经网络(Deep convolution neural network，DCNN)技术。在LFW数据集上测试，这些系统的平均准确率都达到了99％以上。但是现在实用的人脸识别产品或服务还不多，原因是多方面的，一个主要原因就是在LFW数据集上评测的DCNN模型庞大、要求大量的计算资源，而移动和嵌入式设备难以承担。针对此问题，本文主要就设计轻量级的人脸识别DCNN进行了研究。主要工作如下:
　　在网络结构设计方面，本文采用深度可分卷积代替标准卷积，全局平均池化层代替全连接层，使得网络模型的参数数量和计算量大大减少，模型的尺寸也相应减小。针对softmax分类器在实际应用中不灵活的问题，提出DCNN直接学习原始图片到欧氏距离空间的映射的思想，用欧式空间的距离度量人脸之间的相似度。为了提高网络的训练速度，比较了多种激活函数和优化算法的性能，发现使用ELU激活函数和Adam优化算法能有效加快训练速度。为配合小批量训练网络的方式，每批次训练都随机划分mini-batch。网络中还使用了batch normalization加快网络训练速度和避免过拟合。为了进一步减小模型尺寸，对网络可训练参数采用了等区间的量化联合霍夫曼编码的做法，减少了参数占用的存储空间。训练时采用了随机裁剪的方式对训练集进行扩充，提升模型的泛化能力。
　　此外，在采用triplet loss学习人脸图片在欧式空间的紧致表示的情况下，本文实验证明了采用灰度图片训练比采用彩色图片训练所得模型泛化效果更佳。而且大幅减少了计算量，加快了网络训练。最后，针对训练好后的网络输出的人脸特征向量各元素存在相关性的现象，指出直接采用欧式距离度量两个人脸特征向量的相似性的方法可能存在问题，本文提出采用马氏距离来度量两个人脸特征向量的相似性。

目录

声明

摘要

第1章绪论

1．1课题研究背景和意义

1．2研究现状

1．3本论文研究的主要内容

2．1深度学习理论

2．1．1深度学习基本内容

2．1．2深度学习基本思想

CNN理论

2．1．3局部感受野

2．1．4权值共享

2．1．5卷积层

2．1．6池化层

2．2典型DCNN结构及其工作方式

2．3本章小结

第3章轻量化DCNN设计

3．1 DCNN网络设计

3．1．1深度可分卷积

3．1．2全局平均池化

3．2 DCNN输出和损失函数

3．2．1 Softmax分类器和交叉熵损失函数

3．2．2人脸特征向量和triplet loss

3．3网络结构

3．4激活函数

3．5批正则化

3．6网络优化

3．6．1梯度下降优化原理

3．6．2优化算法选取

3．6．3参数初始化

3．7本章小结

第4章实验及结果分析

4．1数据集处理及增强

4．1．1人脸数据集来源

4．1．2数据集图像灰度化

4．1．3图片裁剪

4．1．4数据增强

4．2实验环境和网络训练

4．3马氏距离

4．4 LFW数据集及模型评估

4．5模型压缩

4．5．1参数量化

4．5．2霍夫曼编码

4．6本章小结

结论

参考文献

攻读学位期间发表的学术成果

致谢