线性方程组的迭代和最速下降法

摘要

本文在第一部分对迭代法进行了较为详细的描述。当遇到复杂问题时，特别是在未知量很多，方程为非线性时，我们无法找到直接解法，这时候或可以通过迭代法寻求方程的近似解。在可以用迭代算法解决的问题中，至少存在一个直接或间接地不断由旧值递推出新值的变量，这个变量就是迭代变量。所谓迭代关系式，指如何从变量的前一个值推出其下一个值的公式（或关系）。迭代关系式的建立是解决迭代问题的关键，可以用递推或倒推的方法来完成。在什么时候结束迭代过程，不能让迭代过程无休止地重复执行下去。迭代过程的控制可分为两种情况：一种是所需的迭代次数是个确定的值，可以构建一个固定次数的循环来实现对迭代过程的控制；另一种是所需的迭代次数无法确定，需要进一步分析出用来结束迭代过程的条件。第二部分是基于最速下降法在解决无约束非线性规划问题中的重要性，对其原理与算法予以讨论。