学位论文 > 优秀研究生学位论文题录展示

基于统计学习的多类别分类器研究

作　者: 强琦
导　师: 何钦铭
学　校: 浙江大学
专　业: 计算机应用
关键词: 多类别分类支持向量机核技巧凸规划
分类号: TP181
类　型: 硕士论文
年　份: 2006年
下　载: 255次
引　用: 1次
阅　读: 论文下载

内容摘要

多类别分类问题一直以来就是机器学习领域中的重点研究对象,随着互联网络以及数据挖掘技术的不断发展,如何准确快速地处理类别数较多的多类别分类问题已经成为了研究和应用的热点。输出编码是解决多类别分类问题的一般性框架。大多数研究使用预先定义的输出编码来达到分类的目的。One-against-all,One-against-one是最常用的多类别处理方法,将多类别问题纳入一个优化问题处理也得到了大量的研究。最近连续编码的概念已经被提出,并以此进行了编码的自动设计。这些研究将编码设计的问题归结为一个有约束的优化问题,但是这些方法需要解大量的优化问题,导致了复杂的计算从而影响到算法的效率。本文提出了解决多类别分类问题的一般性方法,它利用最小最大概率机的概率信息和间隔信息启发式地解决了编码设计问题。在我们的算法中将一个减少了迭代次数的分类器视为弱化了的分类器,同时保留分类器的间隔属性和几何特性。最后我们利用高维映射将分类器输出映射到特征空间,使用核技巧来提升整体性能。在弱化阶段我们大量减少了整体的迭代次数而合成阶段利用非线性映射来提升性能。我们对算法进行了数值试验,与其它算法报告的最好结果相比,算法取得了较好的结果。

全文目录

摘要  2-3
ABSTRACT  3-6
第一章绪论  6-8
  1.1 多类别分类  6-7
    1.1.1 多类别分类的研究动机  6
    1.1.2 多类别分类的研究现状  6-7
  1.2 本文工作及创新  7
  1.3 本文结构  7-8
第二章多类别分类的一般方法  8-32
  2.1 One-against-all分类方法  8-9
    2.1.1 One-against-all方法概述  8
    2.1.2 One-against-all方法存在的问题  8-9
  2.2 One-against-one分类方法  9-10
    2.2.1 One-against-one方法概述  9
    2.2.2 One-against-one方法存在的问题  9-10
  2.3 多类别分类支持向量机  10-27
    2.3.1 统计学习理论简介  10
    2.3.2 统计学习理论  10-13
    2.3.3 学习理论泛化的一般条件  13-17
    2.3.4 支持向量机简介  17-22
    2.3.5 二分法支持向量机  22-23
    2.3.6 一次性优化多类别支持向量机  23-27
  2.4 基于编码设计的多类别分类  27-31
    2.4.1 离散编码  27-28
    2.4.2 连续编码  28-31
  2.5 小结  31-32
第三章极小极大概率机  32-41
  3.1 问题的定义  32-33
  3.2 主要的数学结论  33-34
  3.3 概率机几何解释  34-35
  3.4 鲁棒概率机  35-37
    3.4.1 鲁棒概率机的学习问题  36
    3.4.2 均值估计问题  36-37
    3.4.3 协方差估计问题  37
    3.4.4 鲁棒估计问题  37
  3.5 非线性分类器  37-39
  3.6 数值试验  39-40
  3.7 小结  40-41
第四章基于概率机的线性多类别分类器  41-46
  4.1 线性多类别分类器  41-43
  4.2 子空间差异度量  43-45
  4.3 小结  45-46
第五章 SWS多类别分类框架  46-57
  5.1 Strong-to-Weak阶段  47-49
  5.2 Weak-to-Strong阶段  49-52
  5.3 数值试验  52-55
  5.4 小结  55-57
参考文献  57-62
致谢  62-63

基于统计学习的多类别分类器研究

内容摘要

全文目录

相似论文