对抗学习在神经网络模型优化中的研究

摘要

作为一门随大数据时代兴起的科学，机器学习基于数据，也囿于数据。良好的数据理解不但是一个优秀的模型方案中不可或缺的部分，更是特定场景下的问题处理中所依仗的关键手段。在一些情况下，数据集中往往拥有着多个尺度下的标签，在具有这样性质的数据集上的分类任务中，仅关注单一主任务标签的方法或是对于多尺度标签的不合理利用往往会由于其它标签分布不均匀而产生额外的一定的精度损失。 基于对多尺度标签问题的分析，在本文中我们针对一类多尺度标签存在配对现象的数据集，通过对于样本中属性配对和不均衡的问题的抽象，构建了一个由训练数据和测试数据拥有不同属性组合所造成的领域迁移问题并在情境下渐进式地给出了两个基于神经网络模型的解决方案，主要内容如下： 1.利用样本存在多尺度属性标签的特点，本文依据属性间的因果关系，设计了一种基于对抗学习机制的属性拆解网络模型，其利用在主分类任务分支之上添加了属性间的混淆分支降低了属性间的相互影响，从而达到了提升主分类任务效果的作用。在合成数据集和真实场景下的人脸数据集上的实验表明了这样的结构相较于一般的迁移学习模型，除了能够处理多个数据领域间的任意迁移外，也比较有效地降低了由于属性耦合所产生地负迁移的影响。 2.针对于属性间存在的耦合关系和属性拆分不完全的场景，本文首先对于单一属性向量采用随机组合的数据增强方法对于训练数据集进行类别扩充，再从生成数据的性质出发，基于对抗学习思想为不同属性组合的样本构建了不同的代价回传机制，从而实现对于样本中不同属性成分的解耦。在实验环节中，我们证明了这样的模型能够通过提升解耦效果，进一步地提升模型在主分类任务的表现，并在一个真实的智能设备身份验证数据集上证明了该方法的有效性和实用性。

目录

声明

第一章绪论

1.2研究历史和现状

1.2.2迁移学习

1.2.3属性学习算法研究

1.3本文的主要贡献与创新

1.4本论文的结构安排

第二章相关知识和技术

2.1.2对抗学习思想与模型设计

2.2迁移学习

2.2.2迁移学习方法

2.2.3负迁移

2.3生成对抗网络

2.3.1生成对抗网络介绍

2.3.2 一些衍生模型

2.4身份验证中的机器学习

2.5数据增强

2.5.2特征空间上的增强

2.6本章小结

第三章基于对抗思想的属性拆解

3.2问题介绍

3.2.2相关工作

3.3基于对抗学习的属性拆解网络

3.3.2模型原理和优化

3.4实验

3.4.2对比方法简介

3.4.3实验效果和分析

3.5本章小结

第四章加性对抗解耦网络

4.3属性特征的随机组合

4.4基于属性的分析

4.5加性对抗解耦网络模型

4.6实验

4.6.2实验效果和分析

4.7本章小结

第五章全文总结与展望

5.2.1本文中的改进思路

致谢

参考文献

攻读硕士学位期间取得的成果