学位论文 > 优秀研究生学位论文题录展示

非线性共轭梯度法的改进

作　者: 李敏
导　师: 李董辉
学　校: 湖南大学
专　业: 应用数学
关键词: 无约束最优化问题共轭梯度法下降方向全局收敛性
分类号: O224
类　型: 硕士论文
年　份: 2009年
下　载: 117次
引　用: 1次
阅　读: 论文下载

内容摘要

非线性共轭梯度法是求解最优化问题的一类有效算法,该算法的一个显著优点是其存储量小,且具有较好的收敛性,因此广泛应用于求解大规模的最优化问题.而已有的共轭梯度法有些不能保证产生的方向为下降方向,有些共轭梯度法虽然具有下降性,但其下降性较强地依赖于算法采用的线性搜索.本文在对已有的非线性共轭梯度法进行系统总结,对几个著名的共轭梯度法进行改进.第二章对最近提出的HZ共轭梯度法进行改进.我们在HZ算法中引入一个参数,通过对参数的适当选取,使算法成为一种充分下降算法,称为MHZ算法.该下降性与所采用的线性搜索无关,若采用精确线性搜索,则算法还原为标准的HS算法,当参数取2时,算法即为标准的HZ算法.在较弱的条件下,我们证明如果采用Goldstein线性搜索或Wolfe线性搜索,MHZ算法对强凸的极小化问题全局收敛.在此基础上,我们提出一种保守的MHZ方法,并建立相应算法在采用Armijo线性搜索时求解非凸极小值问题的全局收敛性定理.第三章对DY算法进行改进,提出一种MDY算法.该共轭梯度法在精确线性搜索下与DY方法一致,但与DY方法相比,MDY方法具有充分下降性,且该性质与所采用的线性搜索无关.在此基础上我们提出一种保守的MDY算法,并建立该算法在Armijo线性搜索下求解非凸极小值问题的全局收敛性定理.第四章对CD共轭梯度法进行改进,提出一种MCD算法,在线性搜索精确时,它与CD方法一致.但与CD方法相比,MCD方法具有充分下降性,也与算法采用的线性搜索无关,在此基础上我们提出一种保守的MCD算法,并建立了该方法的基于Armijo线性搜索求解非凸极小值问题的全局收敛性定理.我们还对本文的算法进行数值试验,并与已有共轭梯度法进行比较,结果表明本文算法具有更好的数值效果.

全文目录

摘要  5-6
Abstract  6-8
第1章绪论  8-16
  1.1 无约束最优化问题  8-11
  1.2 共轭梯度法及其发展简介  11-14
  1.3 本文的主要工作及以后各章节安排  14-16
    1.3.1 本文的主要工作  14-15
    1.3.2 本文的章节安排  15-16
第2章改进的Hager-Zhang 共轭梯度法  16-30
  2.1 MHZ 方法  18-20
  2.2 收敛性分析  20-26
    2.2.1 对强凸函数的收敛性分析  20-22
    2.2.2 对一般函数收敛性分析  22-26
  2.3 数值试验  26-30
第3章改进的DY 共轭梯度法  30-38
  3.1 MDY 方法  30-33
  3.2 收敛性分析  33-34
  3.3 数值试验  34-38
第4章改进的CD 共轭梯度法  38-47
  4.1 MCD 方法  38-41
  4.2 收敛性分析  41-43
  4.3 数值试验  43-47
结论  47-48
参考文献  48-51
致谢  51

非线性共轭梯度法的改进

内容摘要

全文目录

相似论文