可变步长的自适应自然梯度算法及应用研究
文献所研究的内容大也就是定义了描述信号分离状态的分离度 ,并利用分离度作为参数来控制自然梯度算法中的步长因 子 ,从而首次提出了一种基于分离状态的步长自适应自然梯度盲源分离算法 。由于该算法步长是基于分离度的 ,其 学习速率由信号的分离程度自适应地选取 ,因而能很好地解决收敛速度和稳态误差之间的矛盾 。计算机仿真结果与 理论分析相一致 ,证实了该算法明显优于其他固定步长或变步长的自然梯度算法 。
1.引出新算法
在第一阶段解释了盲源分离，盲源分离是当前 信号处理学界和神经网络学界共同的热点研究课题 之一 ,在无线通信 、雷达 、图像 、语音 、医学以及地震信 号处理等领域具有广阔的应用前景 。从而引出了梯度算法，他们均属于LM S型算法。然而，稳态误差与步长成正比 ,收敛时间与步长成反比 ,这 一内在的矛盾使得 LM S算法的收敛速度和稳态误差 特性不能同时满足 ,必须在收敛速度和稳态误差这两 个性能指标之间进行权衡 。为了解决这一难题 ,本文 提出了一种新的变步长自然梯度算法 ,将其步长根据 分离状态自适应地变化 ,以便更好地解决收敛速度与 稳态误差之间的矛盾 。计算机仿真结果证实该算法 明显优于其他固定步长和变步长算法。从而奠定了这一文献所要研究的新的变步长自然梯度算法。
- 分析比较
首先讨论的是盲源分离问题，及给出了本文所采用的 衡量盲分离算法分离效果的检验方法 。由前面的论 述可知 ,实际的信号源盲分离算法只能做到使混合 — 分离复合矩阵尽量接近一个广义排列矩阵 。因此 ,为 了定量评价一种盲分离算法的性能 ,合理的方法是利 用实际的混合 —分离矩阵和广义排列矩阵之间的差 别来作为分离效果的评价指标 。
其次是基于分离度的步长自适应自然梯度算法，给出了问题自然梯度算法存在收敛速度和稳态性能之间的矛盾 :步长小 ,算法的稳态性能好 ,但算法收敛慢 ; 反之 ,则收 敛快 ,但稳态性能差 。解决上述矛盾的最简单做法是 令学习速率随时间递减 ,另一类做法是采用自适应步长参数 。但这些算法的自适应步长取决于辅助变量 , 而与分离输出之间的分离状态无关 。所以再次正式提出了一 种新的自适应步长算法 ,该算法的控制参数为分离状 态的一种测度 ,以自动控制算法的收敛和跟踪 。
其次就是计算机仿真及分析，仿真结果明显看出 ,步长大小对收敛速度与稳态误差有相当大的影响 。曲线 ( 3)虽然采用了变步长 ,但其收敛速度和稳态性能都无法与新算法相比 。此外 ,由于 Amari算法中的步长是随时间而衰减的 ,故其存在一个显著的缺点 :若 mu;( k) 已降至很小时 ,仍有信号未被分离则这些信号的提取将非常困难 。而新算法的步长随分离度的大小而变化 ,只有当分离度极小 (也即各信号得到完全分离 )时 ,步长才会趋近于 0,因而不会出现上述情况 。因此 ,新算法既能保证快速收敛和较小。
最后加以比较来证实新的算法现有自适应步长算法相比较 ,选用了如下2类算法 ,其中这 2类算法的参数也是最优的 :
( 1) Yang算法 [ 9 ]取分段时间指数递减步长
( 2) Thom as算法 [ 8 ] 采用的是自适应步长算法 ,
以上是毕业论文文献综述，课题毕业论文、任务书、外文翻译、程序设计、图纸设计等资料可联系客服协助查找。
