学位论文 > 优秀研究生学位论文题录展示

多分类器动态集成技术研究及其应用

作　者: 张凯德
导　师: 孔祥维
学　校: 大连理工大学
专　业: 信号与信息处理
关键词: 多分类集成动态集成分类器加权错误率隐密分析
分类号: TP181
类　型: 硕士论文
年　份: 2011年
下　载: 66次
引　用: 1次
阅　读: 论文下载

内容摘要

一个优秀的机器学习系统必须有着很强的泛化能力,也就是说,根据已知数据形成的模型可以很好的处理未知的数据。多分类器集成技术是将多个个体学习器(基分类器)按照一定的规则集成起来,充分利用个体学习器之间的互补性,以此来取得更好的泛化能力和鲁棒性。多分类器动态集成技术是多分类器集成技术的一个重要分支,它的主要思想是针对不同的待分类样本动态的选择不同的基分类器进行集成,以达到更强的灵活性和针对性,而且在很多情况下会取得比传统的多分类器集成方法更好的效果。因此,近年来多分类器动态集成技术的研究备受关注,成为科技前沿之一。本文以提高分类器泛化能力为出发点,对多分类器集成技术,以及多分类器动态集成技术做了系统的研究。本文主要工作如下：(1)对多分类器集成的研究背景、意义、现状和存在的问题做了简单介绍,对多分类器集成技术的原理进行了详细介绍。概述了多分类器集成技术及动态集成技术的一般性框架的基础上,分析了集成有效性的原因。对目前流行的多种静态和动态集成方法进行了对比,并分析了他们的局限性。(2)提出了一种基于加权错误率的动态集成技术模型。首先分析了目前流行的多分类器动态集成方法的局限性,考虑到他们将“能力区域”局限于部分样本而且对能力区域中样本等同对待,而且大多数算法都需要手动设置参数,这是目前多分类器动态集成技术效果不稳定的主要原因。本文从该角度出发,将“能力区域”扩展到整个样本集,将“能力区域”中不同样本对待测样本的影响进行了量化,避免了人工设置参数的影响。将动态选择算法、动态加权融合算法以及动态选择性加权融合算法应用于该模型,经过在UCI数据库及BMP隐密分析数据中测试,与目前流行的的动态及静态集成算法进行了比较,应用于本文模型的三种算法在低维空间中具有更强的适用性。(3)提出了一种基于动态RSS和Fisher的隐密分析分类器(DCSW_RF)。传统JPEG隐密分析方法是提取特征后,训练SVM模型,利用该模型对未知样本进行分类。但是随着特征维数的增多,SVM的耗费时间过长而且有时会完全失效。本文利用DCSW_RF代替SVM,通过实验与SVM对比,结果表明本文提出的DCSW RF的速度和准确性均优于SVM。

全文目录

摘要  4-5
Abstract  5-9
1 绪论  9-15
  1.1 课题研究背景及意义  9-10
  1.2 多分类器集成的研究发展与现状  10-13
    1.2.1 多分类器静态集成的发展与现状  10-12
    1.2.2 多分类器动态集成的发展与现状  12-13
  1.3 本文的研究内容和结构  13-15
2 多分类器集成技术研究  15-25
  2.1 引言  15
  2.2 多分类器集成的基本概念  15-16
  2.3 多分类器集成有效性的原因  16-19
  2.4 多分类器集成框架  19-21
    2.4.1 基分类器的生成  19-20
    2.4.2 基分类器的集成规则  20-21
  2.5 多分类器动态集成框架  21-24
  2.6 本章小结  24-25
3 多分类器集成方法介绍  25-36
  3.1 引言  25
  3.2 多分类器静态集成算法介绍  25-29
    3.2.1 Boosting  25-27
    3.2.2 Bagging  27-28
    3.2.3 Random Subspace Method  28-29
    3.2.4 多分类器静态集成算法的比较  29
  3.3 多分类器动态集成算法介绍  29-35
    3.3.1 基于kNN准则的动态集成方法  29-31
    3.3.2 基于聚类准则的动态集成方法  31-33
    3.3.3 基于不同数据集的动态集成方法  33-34
    3.3.4 多分类器动态集成算法分析  34-35
  3.4 本章小结  35-36
4 基于加权错误率的动态集成算法  36-52
  4.1 引言  36
  4.2 基于加权错误率的动态集成技术  36-51
    4.2.1 交叉验证技术的选取  36-37
    4.2.2 基于加权错误率的动态集成技术模型  37-40
    4.2.3 实验及结果分析  40-51
  4.3 本章小结  51-52
5 集成学习在JPEG隐密分析中的应用  52-61
  5.1 引言  52-53
  5.2 基于动态RSS和Fisher的隐密分析分类器  53-60
    5.2.1 对Fisher线性分类器的分析  53-56
    5.2.2 基于动态RSS和Fisher的隐密分析分类器原理  56-57
    5.2.3 实验及结果分析  57-60
  5.3 本章小结  60-61
结论  61-62
参考文献  62-67
攻读硕士学位期间发表学术论文情况  67-68
致谢  68-69

相似论文

空间目标ISAR成像仿真及基于ISAR像的目标识别,TN957.52
统计与语言学相结合的词对齐及相关融合策略研究,TP391.2
基于参考图像的乳腺肿块诊断方法研究,TP391.41
多特征融合的视觉跟踪算法研究,TP391.41
智能视频监控中的目标检测技术研究,TP391.41
音乐风格分析研究,J605
基于平均灰度共生矩阵和特征的LSB匹配隐密分析,TP391.41
基于k-匿名隐私数据挖掘研究,TP311.13
发动机机械故障诊断系统分类器设计,TK407
半监督学习中协同训练与多视图方法的比较及改进,TP18
动态集成中Agent模型的研究与实现,TP311.52
An Expectation Maximization Application for Decision Tree Classifiers on Datasets with Missing Values,TP311.13
人脸识别技术研究,TP391.41
基于支撑向量机的纹理分类,TP391.41
基于多神经网络集成的手写数字识别,TP391.41
面向服务流的Agent动态定位与集成,TP393.09
基于多Agent的动态集成框架的研究与实现,TP311.52
胃粘膜肿瘤显微图像分类器设计,TP391.41
基于高维空间目标类几何覆盖模型的一类分类器研究,TP391.41
可识别交叠细胞的红、白细胞图像自动分类技术研究,TP391.41