全文总字数：3365字
求解线性方程组的近似解是数值代数领域的重要课题之一，在数据分析、信号处理、图像识别等众多领域中有着重要应用，其研究具有重要的理论意义和应用价值。
求解线性方程组的近似解的数值方法大致有两大类，即直接法和迭代法。直接法包括高斯消去法和矩阵分解法等，其主要适用于小规模问题。对于中等规模问题，由于计算量的限制和舍入误差的影响，直接法不再适用。此时通常需要采用迭代法，主要包括雅可比迭代法、高斯-塞德尔迭代法、逐次超松弛迭代法SOR[1]等。对于大规模问题，经典的迭代法通常收敛较慢，此时通常采用子空间迭代法，譬如Krylov子空间迭代法[2]。对于超大规模问题，由于硬件设备的限制，通常需要采用随机化方法，如随机Kaczmarz方法[3,4]、随机坐标下降法[5]等。
Kaczmarz方法[6]是一种非常经典的行投影方法。该方法每次迭代都会将选取点投影到选取行所形成的超平面上，经过多次迭代，就可以逐渐接近方程组的真实解。若初始估计量为，则求解线性方程组的Kaczmarz方法的迭代公式为：
，
其中投影行，是方程的个数，表示系数矩阵的第行，表示右端项的第个元素，上标表示转置，表示欧几里得范数。
坐标下降法[1,7]，也称为高斯-塞德尔迭代法，是一种非梯度类优化方法。该方法在每次迭代中，在当前点处沿一个坐标方向进行一维搜索以求得目标函数的局部极小值，并在整个过程中循环使用不同的坐标方向。若初始估计量为，则求解线性方程组的坐标下降方法的迭代公式为：
，
其中当前坐标方向，是未知数个数，表示系数矩阵的的第列，表示单位矩阵的第列。事实上，从上述迭代公式可见，近似解仅有第个分量发生了变化。相比于Kaczmarz方法，坐标下降法更加适用于求解不相容的线性方程组[8]。
以上是毕业论文文献综述，课题毕业论文、任务书、外文翻译、程序设计、图纸设计等资料可联系客服协助查找。
