学位论文 > 优秀研究生学位论文题录展示

改进粒子群优化算法及其在人工神经网络中的应用研究

作　者: 纪雪玲
导　师: 李明; 李玮
学　校: 西南林业大学
专　业: 机械制造及其自动化
关键词: 粒子群算法收敛性细菌BP神经网络
分类号: TP18
类　型: 硕士论文
年　份: 2012年
下　载: 24次
引　用: 0次
阅　读: 论文下载

内容摘要

粒子群优化算法是在模仿生物群体社会活动的基础上，形成的一种新的智能优化算法。由于粒子群优化算法存在随机和不确定因素，算法的理论基础仍不完备，例如存在迭代初期易出现早熟、迭代后期收敛速度变慢等问题。粒子群优化算法的理论分析与改进已成为算法研究的重点和热点，为此，本论文在对传统PSO算法的理论分析的基础上，结合算法的生物原型特征，针对算法的收敛性能提出改进的PSO算法。由于人工神经网络中的传统BP学习算法是一种基于梯度信息的优化算法，算法容易陷入局部最优的缺点，因此，本文将改进粒子群优化算法应用在神经网络训练中。本文的研究不仅可以完善PSO算法的理论基础，还为PSO算法在人工神经网络中的应用提供了借鉴。本论文研究内容如下：1.对优化问题的综述。优化问题是一种以数学为基础，用于求解各种实际应用中的最优方案。优化问题和算法研究是具有理论意义和应用价值的课题。传统的优化算法有拉格朗日乘子法、复合形法、共轭梯度法等，而在实际应用中，优化问题往往具有规模大、难度高和存在多个局部最优解等特点。因此传统的优化算法面对这样的问题是就很难解决。智能优化算法是一种对生物系统及其行为为特征进行模拟，具有较强通用性的优化模式和方法，能解决一些复杂的实际优化的问题。粒子群优化算法是智能优化算法的一种，它是一种启发式随机优化算法，采用群体解的合作机制来迭代产生最优解，算法的概念简单、容易实现、需要调节参数少，其研究以成为国内外的热点，尤其在算法的理论分析、改进研究及其应用等方面。2.粒子群优化算法是一种随机性、带有启发式的优化算法，并且群体的粒子之间是相互作用的，其粒子的运行轨迹是很复杂的。从理论的观点来看，随机算法如果能概率1收敛就是令人满意的结果。本文针对算法中的参数对其收敛性、收敛速度和收敛精度的影响分析；对粒子群优化算法的行为分析，给出了算法的收敛区域参数，为后面的研究内容提供参数的选择标准；最后证明算法的收敛位置的存在的唯一性。3.粒子群优化算法容易出现早熟现象，在迭代后期收敛速度较慢的原因是群体中各个个体极值更新缓慢，粒子缺乏活力。为了提高粒子群优化算法的性能，本文针对带收缩因子PSO算法进行改进，在收缩因子粒子群算法的基础上，引入两个新的参数，即速度因子和位置因子，一旦粒子向全局最优接近而且其速度小于设定的速度因子，则认为该粒子可能出现停滞，从而对此粒子进行重新初始化，以增强粒子活力。同时在算法陷入局部最优时，通过此方法驱散粒子，以提高种群多样性，从而避免产生早熟收敛现象。通过对三个多峰标准测试函数的仿真比较实验，验证了改进后算法的效能，仿真结果表明改进后的算法在提高收敛精度的同时，能有效地避免算法陷入局部最优。4.细菌通常具有生命周期短、繁殖快、对环境敏感等特点，在觅食足够的营养物质后，细菌将以二分裂方式迅速繁殖，但是细菌一旦觅食不到足够的营养物质或遇到有害物质，细菌极易死亡。利用细菌的进化机制，对粒子群优化算法改进，采用细菌作为算法中个体的生物原型，并根据细菌及菌落的基本生物进化规律，提出一种具有进化机制的细菌粒子群算法，其中个体通过不断的繁殖和死亡操作以保持种群的多样性，该算法还为粒子群算法提出了一种新的自然结束方式。仿真结果表明，细菌粒子群算法能显著提高算法收敛速度，并可以达到全局最优。5.人工神经网络是人工智能研究的重要系统之一，它是具有有向图拓扑结构的高度并行的动力系统并通过对输入状态施加作用来获取输出信息。误差反向算法（BP算法）是一种最为重要、应用最多的神经网络算法，它使用的优化技术是最普通的梯度下降法。误差反传训练算法的基本思想是最小二乘学习算法，是基于梯度搜索的最小均方差算法，为了获得网络实际输出和期望输出之间的均方差最小，网络的学习过程是将误差从上层向下层一遍传播一遍修改权值的过程。但是在很多实际问题中，复杂的非线性对象的梯度信息很难得到甚至是无法获得，这样BP学习算法就无法优化求解问题。本文将改进粒子群优化算法应用到BP学习算法中，结合BP算法的特点及粒子群优化算法的全局搜索能力。由于粒子群优化算法代替了神经网络的初始寻优，网络仅在已接近最优解得基础上进行参数优化，此外，BP算法中，初始权值的选择不当会引起算法的不稳定甚至发散，而结合PSO算法后就能很好的避免这个问题。实验仿真结果表示，基于PSO的神经网络算法都明显的提高了网络的寻优精度和速度，并且有效地克服了BP算法收敛速度慢的缺点。

全文目录

摘要  4-6
Abstract  6-11
1 绪论  11-19
  1.1 引言  11-12
  1.2 粒子群算法的研究背景  12-13
  1.3 粒子群算法的国内外研究现状  13-17
    1.3.1 PSO算法的改进  14-16
    1.3.2 PSO算法的理论分析  16
    1.3.3 PSO算法的应用  16-17
  1.4 本文的主要工作  17-19
2 粒子群优化算法的基础  19-29
  2.1 引言  19
  2.2 粒子群优化算法的概念  19-21
  2.3 粒子群优化算法的描述  21-22
  2.4 粒子群优化算法的基本流程  22-24
  2.5 几种典型的粒子群优化算法  24-26
    2.5.1 带惯性权重粒子群优化算法  24-25
    2.5.2 带收缩因子粒子群优化算法  25
    2.5.3 离散二进制的粒子群优化算法  25-26
  2.6 基准函数  26-29
3 粒子群优化算法的收敛性分析  29-39
  3.1 引言  29
  3.2 粒子群优化算法的参数控制  29-32
  3.3 粒子群优化算法的行为分析  32-36
  3.4 粒子收敛位置的存在唯一性  36-38
  3.5 本章小结  38-39
4 粒子群优化算法的改进研究  39-55
  4.1 引言  39-40
  4.2 一种克服局部最优的收缩因子粒子群优化算法  40-49
    4.2.1 CFPSO算法概念  40
    4.2.2 ICFPSO算法思想与步骤  40-43
    4.2.3 ICFPSO算法仿真实验  43-47
    4.2.4 ICFPSO算法的收敛性证明  47-49
  4.3 细菌粒子群算法  49-54
    4.3.1 细菌及菌落生物特性  49
    4.3.2 细菌菌落优化算法  49-51
    4.3.3 算法原理与步骤  51-52
    4.3.4 算法仿真实验  52-54
  4.4 本章小结  54-55
5 改进粒子群优化算法在神经网络中的应用研究  55-67
  5.1 引言  55
  5.2 人工神经网络基本概念  55-59
    5.2.1 人工神经网络结构  57
    5.2.2 人工神经网络学习  57-58
    5.2.3 人工神经网络的特点  58-59
  5.3 BP神经网络  59-63
    5.3.1 BP学习算法原理  59-62
    5.3.2 BP网络的特点  62-63
  5.4 I CFPSO算法在BP网络中的应用  63-66
    5.4.1 算法基本思想与步骤  64
    5.4.2 算法关键问题  64-65
    5.4.3 算法仿真实验  65-66
  5.5 本章小结  66-67
6 总结  67-68
参考文献  68-74
致谢  74-75
个人简介  75-76
附录在读期间发表和完成的论文目录  76

改进粒子群优化算法及其在人工神经网络中的应用研究

内容摘要

全文目录

相似论文