学位论文 > 优秀研究生学位论文题录展示

人工神经网络的泛化性能与降水预报的应用研究

作　者: 林开平
导　师: 王盘兴；金龙
学　校: 南京信息工程大学
专　业: 气象学
关键词: 神经网络泛化性能网络结构网络优化遗传算法主成分分析预报建模短期降水预报
分类号: P456
类　型: 博士论文
年　份: 2007年
下　载: 1293次
引　用: 13次
阅　读: 论文下载

内容摘要

人工神经网络是一种模拟人脑信息处理方法的非线性系统，具有较强的处理非线性问题的能力，比较适合于一些信息复杂、知识背景不清楚和推理规则不明确问题(如短期降水预报问题)的建模。随着神经网络方法在大气科学领域研究的不断深入，研究人员发现神经网络方法在实际天气预报业务应用中存在一个重要的问题一人工神经网络预报模型泛化性能问题。该问题的研究不仅关系到在大气学科中能否进一步深入开展有关人工神经网络方法的预报业务应用，并且也是目前人工神经网络应用理论研究中尚未得到很好解决的关键技术问题。人工神经网络的理论和应用研究表明，网络的泛化性能与网络的结构、网络的参数和样本的质量密切相关。然而，对于某个具体的短期天气预报神经网络模型，在建模过程中如何确定适合的网络结构，如何优化网络参数，使建立的神经网络模型具有较好的泛化性能却是一个难题，目前，通常采用的方法是通过反复试验来确定网络的结构和各种参数，而这样，往往会导致网络出现过拟合问题，从而严重影响网络的泛化能力。在采用神经网络方法进行实际的气象预报应用时，由于目前在国内外的神经网络预报建模理论方法研究中，尚未有确定神经网络预报模型的网络结构的客观定量方法，并且网络模型的训练次数(网络模型对训练样本的拟合精度)变化对预报模型的泛化性能有重要影响，因此，如何客观确定最适宜的网络结构，提高神经网络预报模型的泛化性能问题，不仅是目前人工神经网络预报建模理论需要深入研究的科学问题，也是目前利用人工神经网络方法进行业务天气预报应用最迫切需要解决的核心技术。针对在短期天气预报神经网络建模过程中难于确定网络的结构和优化网络参数的问题，本文提出了利用遗传算法优化神经网络的连接权和网络结构，并在遗传进化过程中采取保留最佳个体，从而客观确定短期天气预报神经网络模型的网络结构方法。并以广西区域降水短期预报神经网络模型和南海西行台风强度短期预报神经网络模型为例进行研究，有以下主要的结论：(1)用遗传算法优化神经网络的连接权、网络结构，并在进化过程中采取保留最佳个体的方法，解决了由于神经网络初始权值的随机性和网络结构确定过程中所带来的网络振荡，以及容易陷入局部解的问题。短期降水预报的神经网络预报模型和南海西行台风强度短期预报神经网络模型实例的计算结果表明，这种新方法避免了一般神经网络依靠经验确定网络结构的困难。(2)用遗传算法来确定神经网络结构，优化神经网络的连接权，使神经网络具有最优的网络结构。结果表明，所建立的遗传-神经网络模型其泛化能力远优于一般的神经网络预报模型。针对在短期天气预报神经网络建模过程中训练样本的复杂性影响神经网络的泛化性能问题，本文进一步通过研究网络模型学习矩阵的复共线性关系对预报模型泛化能力的影响，提出了采用主成分分析(PAC)建立神经网络学习矩阵的新方法，以消除学习矩阵的复共线性关系，有效地避免神经网络过拟合现象的出现，从而提高神经网络的泛化性能。并以广西区域短期降水预报为例进行神经网络建模，结果发现，在预报模型输入节点相同的情况下，较小的网络结构或网络结构增大时，无复共线性关系的神经网络预报模型与存在复共线性关系的神经网络预报模型的拟合误差变化不大，且平均拟合误差数值十分相近，但是无复共线性关系的预报模型的泛化能力明显优于存在复共线性关系的预报模型。进一步计算分析了训练次数从5000次到20000次的两种模型的泛化能力，同样表明，神经网络的学习矩阵存在复共线性关系会显著降低预报模型的预报精度。

全文目录

摘要  9-11
ABSTRACT  11-14
第一章绪论  14-34
  1.1 人工神经网络技术的发展概况  14-15
  1.2 神经网络方法在大气科学中的应用研究  15-21
    1.2.1 在卫星云图、雷达图像识别中的应用研究  15-16
    1.2.2 在强对流天气预报中的应用研究  16-17
    1.2.3 在雾预报中的应用研究  17
    1.2.4 在温度预报中的应用研究  17-18
    1.2.5 在热带气旋预报中的应用研究  18
    1.2.6 在短期气候预测降水预报中的应用研究  18-19
    1.2.7 在短期、短时降水预报中的应用研究  19-21
  1.3 混合遗传神经网络的应用研究  21-23
  1.4 利用遗传算法优化神经网络预测模型的相关研究  23-24
  1.5 人工神经网络泛化性能的研究  24-26
  参考文献  26-34
第二章人工神经网络的原理和方法  34-62
  2.1 人工神经网络的概念和基木原理  34-37
    2.1.1 大脑与人工神经网络  34-35
    2.1.2 人工神经元模型  35-37
    2.1.3 神经网络的结构与类型  37
  2.2 神经网络的研究进展及应用  37-41
    2.2.1 人工神经网络的研究进展  37-40
    2.2.2 人工神经网络的应用  40-41
  2.3 BP 网络基本原理  41-51
    2.3.1 BP 网络的设计思想  41-43
    2.3.2 BP 网络的结构  43-45
    2.3.3 BP 网络建模特点和优点  45
    2.3.4 BP 算法的数学原理  45-49
    2.3.5 BP算法实现的步骤  49-51
  2.4 BP 神经网络结构与训练参数选取  51-58
    2.4.1 输入、输出层节点数的选定及数据的预处理  51
    2.4.2 BP 网络拓朴结构的确定  51-52
    2.4.3 训练样本的选取  52-53
    2.4.4 训练参数的选取  53-55
    2.4.5 网络的训练  55
    2.4.6 BP 网络模型性能和泛化能力  55-56
    2.4.7 合理 BP 网络模型的确定  56-58
  参考文献  58-62
第三章遗传算法的原理和方法  62-88
  3.1 遗传算法的概念和基本原理  62-78
    3.1.1 染色体的编码  63-67
    3.1.2 适应度函数  67-68
    3.1.3 遗传操作  68-70
    3.1.4 遗传算法的一般流程  70-73
    3.1.5 遗传算法的形成与发展  73-74
    3.1.6 与传统搜索相比遗传算法的特点  74-75
    3.1.7 遗传算法的应用  75-78
  3.2 遗传算法的收敛性分析  78-79
  3.3 遗传算法面临的问题  79-81
  参考文献  81-88
第四章影响短期天气预报神经网络模型泛化性能因素的系统分析  88-111
  4.1 泛化能力与泛化问题的提出  88-90
  4.2 泛化问题的数学和逻辑根源  90-93
    4.2.1 泛化问题的数学根源  90-92
    4.2.2 泛化问题的逻辑根源  92-93
  4.3 影响神经网络泛化性能的系统分析  93-99
    4.3.1 网络结构影响  94-95
    4.3.2 训练样本及网络参数的影响  95-98
    4.3.3 神经网络的学习误差函数对泛化性能的影响  98-99
  4.4 影响神经网络泛化性能的实例分析  99-108
    4.4.1 预报因子的选取与处理  99-100
    4.4.2 网络结构对网络泛化性能的影响试验  100-105
    4.4.3 网络学习时间对网络泛化性能的影响试验  105-108
  参考文献  108-111
第五章客观确定短期降水预报人工神经网络模型的网络结构方法  111-145
  5.1 BP 网络结构的选取  111-115
    5.1.1 输入、输出层节点数的选定  112-113
    5.1.2 隐层的确定  113-115
  5.2 训练参数的选取  115-116
  5.3 隐层网络结构的优化  116-118
    5.3.1 剪除型结构学习算法  116-118
    5.3.2 增长型结构学习算法  118
  5.4 利用遗传算法客观确定人工神经网络结构的方法  118-127
    5.4.1 遗传算法与神经网络结合的主要方式  119-120
    5.4.2 优化神经网络连接权及网络结构的方法  120-127
  5.5 遗传算法优化神经网络预报模型的应用实例及结果分析  127-142
    5.5.1 遗传—神经网络方法在短期降水预报的应用  127-136
    5.5.2 遗传—神经网络方法在南海西行台风强度预报的应用  136-142
  参考文献  142-145
第六章提高短期降水人工神经网络预报模型泛化性能的方法  145-175
  6.1 改进神经网络模型泛化性能的方法和原理  145-155
    6.1.1 结构设计方法  145-146
    6.1.2 改善样本质量方法  146-148
    6.1.3 最优停止方法  148-149
    6.1.4 学习算法的改进  149-150
    6.1.5 改进激励(特征)函数  150-151
    6.1.6 误差函数的改进方法  151-153
    6.1.7 训练目标增加约束方法  153
    6.1.8 修正权值方法  153-155
  6.2 预报模型泛化性能的改进方法和原理  155-159
    6.2.1 主动性方法的原理  155-157
    6.2.2 试探性方法  157-158
    6.2.3 分割模式输入样本的方法  158-159
  6.3 提高网络泛化性能的系统降维实用方法  159-170
    6.3.1 系统降维方法原理  160-162
    6.3.2 提高短期降水预报模型泛化性能的实例计算分析  162-170
  参考文献  170-175
第七章总结  175-180
  7.1 特色  175-176
  7.2 主要结论  176-178
  7.3 创新点  178
  7.4 不足  178-180
致谢  180

人工神经网络的泛化性能与降水预报的应用研究

内容摘要

全文目录

相似论文