学位论文 > 优秀研究生学位论文题录展示

模式分类中特征降维方法的研究

作　者: 任珂
导　师: 蔡明
学　校: 江南大学
专　业: 计算机应用技术
关键词: 特征降维特征选择特征排序概率密度距离 Parzen窗概率密度估计
分类号: TP391.4
类　型: 硕士论文
年　份: 2009年
下　载: 212次
引　用: 0次
阅　读: 论文下载

内容摘要

模式识别的主要任务就是利用样本的特征,将样本划分为相应的模式类别。但在实际的处理过程中经常会碰到高维数据样本。一方面,数据的特征维数越大,则数据提供的有关客观现象的信息就越多。但另一方面,高维数据却给计算机的处理带来了巨大的困难,而且其中可能存在着较大的相关性和冗余,影响分类精度,这就是维数灾难问题。因此,特征降维是进行模式识别的重要任务之一。特征提取和选择是特征降维的主要手段。特征排序是特征选择的一个分支,其计算复杂度低,易于应用,能够一次将所有的特征进行排序,因此得到广泛的应用。本文提出了一种新的特征排序的方法用于处理降维过程中的特征选择问题。文中先回顾了特征降维的相关信息,介绍了概率密度函数估计,并重点论述了非参数估计法和Parzen窗口概率密度估计原理。然后设计一种应用Gaussian窗函数的Parzen窗口概率密度估计进行特征排序的方法,并讨论该方法的无监督和有监督的情况。在无监督的情况下,先对原始数据样本进行概率密度估计,然后对所有数据的某一维特征进行加权变换,再对变换后的数据样本进行概率密度估计,计算由该特征加权变换前后所引起的数据样本的概率密度距离,即前后两次概率密度的差值,把这个值作为该特征的评价得分,根据这个得分来对特征进行排序,通过选择合适的维数来达到降维的目的。在监督的情况下,充分利用数据的类别信息。先对所有数据的某一维特征进行加权变换,然后计算变换后的类别间的概率密度距离,类别间的距离越大,说明该特征对于区分各类别数据的作用越大,即该特征越重要。因此,把总体的类间概率密度距离作为评价特征重要性的指标,以此进行特征排序。本文详细论述了该方法的推导过程和算法步骤,并用Matlab编程实现。通过若干UCI机器学习数据集的实验验证,该方法可行且有效,并表现出比现有方法更好的效果。

全文目录

摘要  3-4
Abstract  4-5
目录  5-6
第一章绪论  6-11
  1.1 研究背景  6-8
  1.2 研究现状  8-9
  1.3 本文研究目的与意义  9
  1.4 论文的组织  9-11
第二章特征降维方法及概率密度函数估计概述  11-21
  2.1 特征降维方法  11-15
    2.1.1 特征提取  11-12
    2.1.2 特征选择  12-14
    2.1.3 特征排序  14-15
  2.2 概率密度函数估计  15-19
    2.2.1 非参数估计  15-17
    2.2.2 Parzen窗口概率密度估计  17-19
  2.3 概率密度距离方法基础  19-20
  2.4 小结  20-21
第三章基于概率密度距离的无监督的特征排序方法  21-36
  3.1 无监督情况下概率密度距离与特征排序  21-22
  3.2 概率密度距离度量计算  22-24
  3.3 算法步骤  24
  3.4 实验及结果  24-34
    3.4.1 数据描述  25
    3.4.2 特征排序  25-30
    3.4.3 实验结果及分析  30-34
  3.5 小结  34-36
第四章基于概率密度距离的监督的特征排序方法  36-47
  4.1 监督情况下概率密度距离与特征排序  36-37
  4.2 概率密度距离度量计算  37-39
  4.3 算法步骤  39-40
  4.4 实验及结果  40-45
    4.4.1 数据描述  40
    4.4.2 特征排序  40-43
    4.4.3 实验结果及分析  43-45
  4.5 小结  45-47
第五章结束语  47-49
致谢  49-50
参考文献  50-53
攻读硕士学位期间的研究成果与参加科研情况  53

模式分类中特征降维方法的研究

内容摘要

全文目录

相似论文