多目标演化深度神经网络模型与应用

摘要

人工神经网络是一种通过模拟大脑神经元及其连接结构实现各种数据处理与学习问题的计算智能方法。随着大数据的发展以及计算机计算能力的增加，深度神经网络作为一种层次更深、结构更加复杂、建模能力更优的机器学习方法，在各种大数据的处理问题中取得了突破性的成果，特别是在遥感影像处理问题中发挥了巨大的作用。遥感影像存在维度高、冗余度高、非结构化等难点，而深度神经网络具有特征深度抽象、自主表示学习、高效建模等特点，因此很适合于处理遥感影像。本文首先针对深度神经网络中的建模与优化问题进行了深入研究，利用多目标优化和演化算法求解建模与优化中的稀疏问题，然后针对遥感影像，利用深度神经网络解决遥感影像变化检测中的各种问题，概括如下： （1）针对无监督稀疏表示学习中稀疏度与表示能力难以平衡的问题，将无监督表示学习问题建模为多目标问题。将网络的表示能力与特征稀疏度分别建模为两个目标函数，通过同时求解两个目标，得到一系列不同折中的解。由于网络规模较大，基于差分进化设计了一种高效求解该多目标问题的优化方法，最终得到能够对网络表示能力与稀疏度之间较好平衡的解。实验表明，提出的优化方法高效准确，所得到的稀疏特征能较好表示输入数据同时去除冗余信息，提升网络的分类性能。 （2）在深度神经网络连接结构优化问题中，同样存在网络表示能力与连接稀疏度的平衡问题。为降低计算成本，将网络结构优化直接建模为多目标优化问题而无需考虑网络连接权重和偏置。基于数据特点对演化算法进行改进来求解该多目标问题。通过逐层优化，得到能较好表示输入数据的网络结构，最后通过反向传播算法优化网络权重与偏置。实验表明，该网络结构在全连接以及卷积神经网络上都能够提升网络性能并优于对比的网络结构优化算法。 （3）在以上模型的基础上，利用深度神经网络求解遥感影像变化检测问题。无监督稀疏表示学习可以有效去除图像冗余信息，学习图像结构化特征，因此对雷达图像中出现的斑点噪声有很好的鲁棒性。稀疏的网络结构可以提升网络的泛化能力，有效缓解遥感影像中普遍存在的相对小样本问题，同时网络结构适应数据结构，有效提升变化检测精度。 （4）基于深度神经网络强大的学习能力，针对多源异质遥感影像变化检测问题提出相应的解决方法。变化检测问题大部分都是针对同源图像，即参与检测的多时图像来自于同一个或同一类型的成像传感器，因此可以直接进行比较。多源异质遥感影像是来源于不同成像传感器且数据结构差异很大的多时图像，变化检测十分困难。目前方法不多且大部分基于有监督学习，这在实际应用中较难实现。针对数据结构的不同，设计了一种双边耦合网络并建立相应的目标函数。通过最小化未变化区域的耦合误差来突出变化区域，实现多源异质遥感影像的变化检测。实验表明，该网络模型对同源及多源异质图像都能够实现精确检测。 （5）图像变化检测问题基本上都是针对已配准图像，即多时图像上同一位置的像素点或物体在地理位置上也是相同的，因此可以很方便地进行比较，而在很多情况下配准算法并不能对多时图像进行精确配准，如在不同角度拍摄的图片、图像受干扰以及配准算法本身的精度问题。因此，针对无法配准的图像，设计了一种全局差异网络来比较多时图像的全局特征，从而避免局部无法对齐产生的误检。该网络基于卷积结构，通过同时优化网络参数及定义的变化掩图来获得变化区域的信息。针对该问题设计了相应的网络结构、目标函数以及优化方法，实现了对未配准图像的变化检测，这对于现有方法是十分困难的。 本文从深度神经网络的建模与优化的基础理论出发，针对遥感影像变化检测这一实际问题，逐渐深入，解决挑战性难题。

目录

声明

插图索引

表格索引

符号对照表

缩略语对照表

第一章 绪论

1.1研究背景与意义

1.2 DNN与演化多目标优化研究现状与难点

1.3遥感影像变化检测研究现状与难点

1.4研究内容与章节安排

第二章 多目标稀疏特征学习模型

2.1引言

2.2多目标优化问题与方法

2.3多目标稀疏特征学习模型与优化方法

2.4实验与结果分析

2.5本章小结

第三章 基于多目标优化的深度神经网络结构学习

3.1引言

3.2专家乘积系统（PoE）

3.3结构学习模型与优化方法

3.4实验与结果分析

3.5本章小结

第四章 基于多目标演化网络的遥感影像变化检测

4.1 引言

4.2 基于深度神经网络的SAR图像变化检测框架

4.3 基于稀疏特征和稀疏结构学习的SAR图像变化检测

4.4 真实SAR图像实验

4.5本章小结

第五章 基于深度卷积耦合网络的多源异质遥感影像变化检测

5.1 引言

5.2 多源异质图像变化检测

5.3 深度卷积耦合网络

5.4 实验结果与分析

5.5本章小结

第六章 基于双边差异网络的未配准图像变化检测

6.1 引言

6.2 加入配准的变化检测方法模型

6.3 双边差异网络（Bipartite Differential Neural Network，BDNN）

6.4 实验结果与分析

6.5本章小结

第七章 总结与展望

7.1 研究内容总结

7.2 未来研究展望

参考文献

致谢

作者简介