基于分布式的高维度多任务优化算法研究

摘要

多任务优化算法是当前十分流行的研究方向，其核心思想是使用同一组决策变量优化多个相同或者不同的任务来并行处理多任务优化问题。这样可以在有效信息量相对较少、已知多个任务有相互联系但是具体的相关性函数未知的情况下，对多个任务同时优化来加速不同任务的收敛速度从而得到各个任务的最优解。与串行地处理多个单目标的优化问题相比，多任务优化问题不仅可以更快地求出各个任务的最优解，而且由于任务之间隐性的相关性，使得任务种群的多样性得到增强，从而摆脱局部最优陷阱的影响。多任务优化算法比较新颖，有很多的问题正在被研究，其中高维度多任务优化问题是多任务优化问题中的一个难点，其具有复杂度高、收敛性慢、处理难度大等特点。常规的多任务优化算法用来解决低维度的多任务优化问题，主要采用常见的进化操作手段设计算法，这种方式具有设计算法简单直观的特点，而且能够在种群的个体之间充分的交换信息得到改良的个体。但是，在处理高维度的多任务优化问题的时候，由于高维度决策变量导致计算复杂度呈指数式增长，用传统的多任务优化算法无法很好的处理高维度多任务问题，本文提出一种新的算法来解决这个问题。本文的主要工作如下： (1)提出一种改进的动态自适应多因子进化算法（DMFEA）来处理多任务优化问题，将改进的粒子群操作引入到传统的多因子优化算法中，利用粒子群操作的搜索特性提高解的收敛性与摆脱局部最优陷阱的能力。同时，为了解决搜索步长过大而跨过最优解的问题，我们引入了自适应因子。自适应因子可以随着迭代次数的增加来调节种群中粒子的搜索步长。另外，针对在求解复杂多任务优化问题时种群会在局部最优解附近停滞太长时间甚至陷入局部最优陷阱的问题，我们对自适应因子引入动态调节功能，当停滞的种群进化代数达到预设的阈值时，自适应因子会动态地增大从而扩大粒子的搜索范围来降低局部最优陷阱的影响。实验证明DMFEA算法在处理复杂的多任务优化问题的时候，在收敛速度和收敛最优解的精准度上有明显的优势。 (2)在针对Ma等人提出的决策变量分析算法（DVA）进行研究之后，提出了一种分布式决策变量分析算法（DDVA）来处理复杂的高维度优化问题，将复杂的高维度优化问题分解成一组简单的低维度优化问题来处理。和DVA相比，我们采用通用的分布式计算框架Spark，将分布式并行计算的思想引入到了传统的DVA算法中，同时对算法中决策变量分解的方式进行改进，充分利用现代计算机的多核并行计算能力来提高计算性能。实验表明，经过改进的DDVA算法和传统的DVA算法相比，在对复杂高维度优化问题进行决策变量分解的时候时间复杂度大幅度降低，同时也增强了处理复杂问题的能力。在相同计算机环境下DVA无法解决的复杂高维度优化问题，采用DDVA算法的分布式分解处理之后变得能够被解决。 (3)针对高维度多任务优化问题，我们提出了基于分布式的动态自适应多因子进化算法（DDMFEA），通过决策变量分解的方式将高维度多任务优化问题转化为一组简单的低维度优化问题，同时利用分布式计算框架Spark进行分布式并行计算，在处理一组低维度优化问题的时候，我们采用DMFEA算法来增强解的搜索精度和加快解的收敛速度。实验证明该算法可以有效地对复杂的高维度多任务优化问题进行处理，和传统的MFEA算法相比能够大幅度地提高解的求解精度和求解速度。

目录

第一个书签之前

摘要

ABSTRACT

插图索引

表格索引

符号对照表

缩略语对照表

第一章 绪论

1.2国内外研究现状

1.3论文主要内容与章节安排

第二章 多任务优化问题及其算法研究

2.2多任务优化问题

2.2.2常见的多任务优化算法

2.3基于动态自适应的多任务优化算法

2.3.1粒子群操作

2.3.2动态自适应优化

2.4实验结果与数据分析

2.4.1参数设置

2.4.2收敛趋势分析

2.4.3最终收敛度分析

2.5本章小结

第三章 分布式计算理论及其在高维度优化算法上的应用

3.2分布式计算

3.2.1分布式并行计算理论

3.2.2分布式并行计算框架-Spark

3.3基于决策变量分析的高维度优化算法

3.3.1基于决策变量分析的算法

3.3.2基于分布式的决策变量分析算法

3.4实验数据与分析

3.4.2控制属性分析

3.4.3依赖性分析

3.5本章小结

第四章 基于分布式的动态自适应多任务优化算法

4.3高维度多任务优化问题的复杂任务分解

4.3.1独立性优先

4.3.2信息量优先

4.3.3相似化分解

4.4分布式动态自适应多因子进化算法

4.5实验结果及其分析

4.5.2收敛性分析

4.5.3最终收敛度分析

4.5.4计算时间分析

4.6本章小结

第五章 总结与展望

5.2展望

参考文献

致谢

作者简介