学位论文 > 优秀研究生学位论文题录展示
修正Broyden族拟牛顿算法及其应用
作 者: 张继伟
导 师: 李董辉
学 校: 湖南大学
专 业: 应用数学
关键词: 无约束优化问题 非线性最小二乘问题 变分不等式 Broyden族拟牛顿算法 BFGS算法 全局收敛性 超线性收敛性
分类号: O224
类 型: 博士论文
年 份: 2006年
下 载: 394次
引 用: 1次
阅 读: 论文下载
内容摘要
最优化问题及其理论和算法来源于经济,管理,工程等许多重要领域,同时和计算数学中的微分方程数值解法,非线性方程组数值解法等分支有着密切的联系和应用。传统的Broyden族拟牛顿算法因为其良好的数值效果和快速收敛速度已成为求解最优化问题颇受欢迎的一类算法,自上世纪60年代以来,传统的Broyden族拟牛顿算法的理论受到了广泛的重视并且已经取得了丰硕的成果。当目标函数是凸函数时,该类算法的局部收敛性和全局收敛性理论已得到很好的解决。 当目标函数是非凸函数时,Dai构造了一个反例说明了使用非精确搜索的BFGS算法对非凸函数不是全局收敛的,来自工程中的许多实际问题往往是是非凸的,研究求解非凸的优化问题的拟牛顿算法的全局收敛性具有现实的理论意义和实际意义。 本文首先研究求解非凸的无约束优化问题的修正BFGS算法以及Broyden族拟牛顿算法的全局收敛性及其超线性收敛性,在此基础上,我们研究求解非线性最小二乘问题的结构化拟牛顿法及其收敛性理论。最后,我们研究求解变分不等式问题的模单调下降的BFGS算法及其全局收敛性分析。 首先,在第二章到第四章,我们研究求解下面无约束优化问题的算法: min,f(x),x∈R~n,其中f:R~n→R是一光滑函数。最近,Zhang,Deng和Chen以及Wei,Yu和Yuan等分别提出了满足新的拟牛顿方程的拟牛顿算法,希望提高传统拟牛顿算法的效率,他们对所提出的拟牛顿算法的局部收敛性进行了分析。但是,当目标函数f是非凸函数时,这些算法的全局收敛性尚不清楚。我们在Li和Fukushima全局化MBFGS和CBFGS算法的基础上,分别提出基于Zhang,Deng和Chen以及Wei,Yu和Yuan等的拟牛顿方程的修正的BFGS算法和保守修正的BFGS算法。在较弱的条件下,我们证明这两种方法用于求解非凸函数的无约束优化问题时,具有全局收敛性及其超线性收敛性。进而,在第四章,我们研究修正的Broyden族拟牛顿算法及其全局收敛性,我们证明无论是基于传统的拟牛顿方程还是Zhang,Deng和Chen以及Wei,Yu和Yuan等的拟牛顿方程的修正的Broyden族拟牛顿算法在适当的条件下,不但是局部超线性收敛的,而且具有全局收敛性。 求解非线性最小二乘问题的结构化拟牛顿法的全局收敛性问题是人们关注的研究难点课题,研究该问题的主要困难在于结构化拟牛顿法产生的矩阵不能保证对称正定性。本文第五章致力于该问题的研究,我们在对Yabe和Takahashi及Yabe和Yamaki提出的分解结构化拟牛顿算法进行仔细分析的基础上,结合第四章的思想,提出了一种满秩分解的结构化的Broyden族算法,该算法的特点是,无
|
全文目录
学位论文原创性声明和学位论文版权使用授权书 4-5 摘要 5-7 Abstract 7-12 附表索引 12-13 基本符号和数值实验的说明 13-15 第1章 绪论 15-24 1.1 概述 15-22 1.1.1 求解无约束优化问题的拟牛顿算法 15-18 1.1.2 求解非线性最小二乘问题的拟牛顿算法 18-20 1.1.3 求解对称变分不等式KKT系统的模下降的BFGS算法 20-22 1.2 本文的工作和结构 22-24 第2章 无约束优化问题的修正BFGS算法及收敛性分析 24-40 2.1 引言 24-25 2.2 修正的BFGS算法(mBFGS) 25-27 2.3 收敛性分析 27-35 2.4 数值实验 35-40 第3章 无约束优化问题的保守修正的BFGS算法及全局收敛性 40-54 3.1 引言 40 3.2 保守修正的BFGS算法(cBFGS) 40-42 3.3 收敛性分析 42-45 3.4 数值实验 45-54 第4章 无约束优化问题的修正Brodyen族拟牛顿算法及收敛性分析 54-80 4.1 引言 54-55 4.2 修正的Broyden族拟牛顿算法1(mBroyden1) 55-57 4.3 收敛性分析 57-69 4.4 修正的Broyden族拟牛顿算法2(mBroyden2) 69-71 4.5 数值实验 71-80 第5章 非线性最小二乘问题的满秩分解的结构化Broyden族拟牛顿算法 80-99 5.1 引言 80-81 5.2 预备知识 81-84 5.3 满秩分解的结构化Broyden族算法与GN算法的杂交 84-85 5.4 杂交算法的收敛性分析 85-94 5.5 数值实验 94-99 第6章 非线性最小二乘问题的修正的分解形式的结构化BFGS算法 99-109 6.1 引言 99 6.2 分解形式的结构化BFGS算法的修正(m-sBFGS) 99-101 6.3 m-sBFGS算法的收敛性分析 101-109 第7章 求解对称变分不等式问题KKT系统的模下降BFGS算法 109-126 7.1 引言 109-110 7.2 模单调下降的BFGS算法 110-115 7.3 收敛性分析 115-122 7.4 数值实验 122-126 结论 126-128 参考文献 128-135 附录A 攻读博士学位期间完成和发表论文目录 135-136 致谢 136
|
相似论文
- 关于变分不等式问题的强收敛定理及其相关研究,O178
- 锥模型信赖域算法的改进研究,O224
- 有限维变分不等式及互补问题的有效算法研究,O242.23
- 退化问题拟牛顿法超线性收敛性条件,O224
- 扩充的一般混合变分不等式迭代算法的研究,O178
- Sobolev方程及变分不等式的非协调元方法,O241.82
- 最优化若干问题的研究,O224
- 两种新的非单调线搜索方法,O224
- 一族修正拟牛顿算法及其收敛性,O224
- 几类变分不等式和算子方程的算法研究,O178
- 一类新拟牛顿算法及其收敛性,O224
- 基于混合用户出行行为的城市拥挤收费模型研究,U491
- 应用Tikhonov正则化方法度量局部波动率函数,F830.9
- 效用准则下经典风险模型的最优分红与注资,F840
- 不确定需求下的公交配流问题研究,U491.17
- 无约束优化问题的回溯过滤信赖域算法,O224
- 一类双共振半变分不等式解的存在性,O178
- 无约束优化问题的记忆梯度法的若干研究,O224
- 求解互补问题光滑Broyden-like算法的若干研究,O241.7
- 带有分红和交易费用的比例再保险最佳控制模型,O232
- 一类修正的BFGS信赖域方法,O224
中图分类: > 数理科学和化学 > 数学 > 运筹学 > 最优化的数学理论
© 2012 www.xueweilunwen.com
|