凸优化问题几类束方法对偶问题的研究

摘要

对于无约束优化问题，在迫近束方法思想基础上，相关文献从对偶空间角度通过求解带有二次项的原问题的等价稳定子问题，得到了原问题近似解的表达形式以及与其解相关的重要性质.这些重要结果都成为此后我们进一步深入研究非光滑优化束方法的理论基础.本文中，我们继续以迫近束方法的思想为基础，将无约束优化问题等价于一系列带有特殊范数标准的二次规划子问题来求解，从对偶空间角度，运用对偶定理将原问题的求解转化为其对偶问题的求解，仍然从问题的解的表达形式入手，不仅研究其解的表达形式，而且也得到了与解有关的重要性质.鉴于许多带有约束的优化问题都可以转化为无约束优化问题进行求解，本文又针对带有非光滑约束的优化问题，单纯应用迫近束方法从对偶角度对其进行研究.进一步，在迫近束方法的思想基础上将水平束方法与其结合，应用双稳定束方法来解决此约束优化问题.从其对偶问题的角度，研究其解的形式及相关性质，发现不但解的表示形式不尽相同，且其与之前迭代点的次梯度的凸组合有关，而且次梯度值和额定下降都与单纯用迫近束方法从对偶问题角度解无约束优化问题时有相类似的性质.
　　本论文主要从对偶空间角度应用不同类型的束方法，以研究无约束优化问题得到的重要结果为理论依据，研究带有约束的非光滑优化问题.全文分为三个部分，其主要内容如下:
　　第一章，首先结合非光滑优化问题的历史背景与研究现状对束方法的重要性以及发展历程进行介绍.目标函数的非光滑性使优化问题的求解面临重重困难，为克服计算上以及理论分析上的障碍，许多方法应运而生，束方法就是其中之一.我们将分别对最速下降法、黑盒子方法和一般束方法如何求解无约束优化问题的基本思想进行介绍，为第二章和第三章中问题的深入研究做理论铺垫.
　　第二章，首先介绍非光滑迫近束方法的提出及其基本思想.本章中，将主要运用迫近束方法思想，将无约束原始问题转化成一系列二次惩罚子问题来求解，从对偶空间角度，对惩罚子问题展开研究，并在其对偶空间内展开相关性质的探讨与证明，验证是否可以刻画原问题与对偶问题之间的关系，以得到与前人文章中相类似的子问题最优解的具体表达形式.进一步，总结出问题最优解与之前迭代点的次梯度的凸组合之间的关系，及次梯度和额定下降的相关性质.其次，我们继续使用迫近束方法，应用上述思想，将带有约束的非光滑优化问题进行等价变换，应用指示函数方法将约束优化问题转化为无约束优化问题，得到相类似的重要结论.
　　第三章，主要介绍非光滑双稳定束方法的提出及其基本思想的运用.首先，我们运用迫近束方法和水平束方法的思想，将以非光滑凸函数为目标函数，以非空闭凸集为约束集合的原始优化问题转化成一系列带有水平约束的二次规划子问题来求解，并进一步应用指示函数方法将约束优化问题转化为无约束优化问题.接下来我们继续针对双稳定性束方法，类似地，从对偶空间角度，找到惩罚子问题的对偶问题，并在其对偶空间里展开相关性质的探讨与证明，验证是否可以深入刻画原问题与对偶问题之间的关系，从而得到与第二章中相类似的问题最优解的具体表达形式.最后，找出了原问题的最优解与之前迭代点的次梯度的凸组合之间的关系，以及次梯度和额定下降的相关性质.

目录

声明

摘要

第一章 引言

1．1 课题背景及意义

1．2 当前国内外在非光滑优化计算方法方面的研究现状

1．3 用来解决非光滑问题的几种方法的介绍

1．3．1 最速下降法

1．3．2 黑盒子算法

1．3．3 束方法

第二章 迫近束方法对偶问题的研究

2．1 迫近束方法的基本思想

2．2 应用迫近束方法对无约束凸优化问题对偶问题的研究

2．3 单纯用迫近束方法对带有约束的凸优化问题的对偶问题的研究

第三章 双稳定束方法对偶问题的研究

3．1 双稳定束方法的基本思想

3．2 应用双稳定束方法对带有约束的优化问题的对偶问题的研究

结论

参考文献

攻读硕士学位期间发表学术论文情况

致谢