求解非光滑凸优化问题的两种双稳定束方法

摘要

非光滑优化是最优化理论与方法的重要分支，也是国内外众多学者追踪研究的一个热点领域，其广泛应用于数据挖掘、神经网络学习、机器学习、图像恢复、工程学等实际领域.一直以来，国内外学者致力于设计快速而高效的优化算法用于求解非光滑优化.在求解非光滑优化的众多方法中，束方法既是主流方法也是国际上研究的热点之一，其主要特点是:每次迭代时储存之前迭代所产生的一组（束）迭代点的信息，然后通过利用前面所存储的迭代点的信息来产生新的迭代点.束方法发展至今有了较为丰硕的理论研究成果，因此，将束方法的相关理论与方法进行研究推广，从而设计出快速而高效的优化算法去求解非光滑优化具有重要的理论意义与实际应用价值.
　　束方法主要包括邻近束方法与水平束方法等，本学位论文结合了以上两类方法的稳定性，提出两种求解非光滑凸优化的新型双稳定束方法，旨在加快算法的收敛速度，提升理论与数值效果.
　　首先，基于经典的双稳定束方法，引入多步加速策略，提出求解非光滑凸优化的加速双稳定束方法.该方法的主要特点有:第一，相比传统的双稳定束方法只利用一个迭代点列，加速双稳定束方法引入三个相关的迭代点列，分别用于建立目标函数的割平面模型，产生稳定中心（算法迭代到当前所产生的“最好”的点）和控制迭代点列，每个点列各司其职.第二，算法融合了传统邻近束方法和水平束方法的稳定性，使得算法的稳定性更好，从而获得更好的数值效果.第三，分析论证算法具有全局收敛性.此外，通过对迭代点列的参数的选取，加速双稳定束方法可回到传统的双稳定束方法.
　　其次，提出一个带非欧氏范数的双稳定束方法.主要是基于双稳定束方法，引入邻近函数，对传统的双稳定束方法子问题进行改进.在产生新迭代点的二次规划子问题中引入邻近函数代替传统的欧氏距离，使得计算上更能充分利用可行集的几何结构.算法融合了传统邻近束方法和水平束方法的稳定性，从而具备更好的理论性质.分析论证得到，算法具备全局收敛性.此外，当邻近函数取为特殊的函数时，算法可回到原始的双稳定束方法.
　　最后，对本学位论文提出的加速双稳定束方法进行编程做初步的数值测试，数值结果表明该算法优于传统的双稳定束方法.

目录

声明

摘要

第1章 绪论

1．1 研究背景及意义

1．2 国内外研究现状

1．3 本文研究内容与结构

第2章 理论基础

2．1 符号说明

2．2 基本定义

2．3 基本结论

2．4 本章小节

第3章 求解非光滑凸优化问题的加速双稳定束方法

3．1 算法设计

3．2 算法的全局收敛性分析

3．3 本章小结

第4章 带非欧氏范数的双稳定束方法

4．1 算法设计

4．2 算法的全局收敛性分析

4．3 本章小结

第5章 数值试验

5．1 数值算例

5．2 数值结果

5．3 本章小结

结论与展望

参考文献

致谢

攻读硕士学位期间概况