学位论文 > 优秀研究生学位论文题录展示

支持向量机增量学习算法研究

作　者: 徐新功
导　师: 周水生
学　校: 西安电子科技大学
专　业: 应用数学
关键词: 支持向量机增量学习中心距离中心密度 KKT条件
分类号: TP181
类　型: 硕士论文
年　份: 2012年
下　载: 148次
引　用: 0次
阅　读: 论文下载

内容摘要

支持向量机(Support Vector Machine,SVM)是由Vapnik于20世纪90年代提出的借助于最优化方法解决机器学习问题的新工具。它在解决小样本、非线性及高维模式学习问题中表现出许多特有的优势，可以成功的解决数据回归和模式识别等诸多问题，已经广泛应用于手写数字识别、人脸识别、文本分类、回归预测等领域。在实际问题中，学习数据经常是不断累积的。增量学习可以利用历史信息，减少训练规模，节约训练时间，是解决训练集样本不断累积的学习问题的有效方法。本文分析了现有的支持向量机增量学习算法，提出了一种新的基于中心距离比值和中心密度的支持向量机增量学习算法。该算法在处理初始样本集时，采用边界向量预选取的中心距离比值法，即计算每个样本点的自中心距离与互中心距离的比值作为中心距离比值，并选择中心距离比值比较大的一部分样本集作为训练集来代替初始样本集进行训练。而对于有新增训练样本时，新的训练集包括原支持向量、违背原模型KKT条件的新增样本点和一部分精选的非支持向量。本文精选非支持向量进入训练集的方法是：先定义到本类中心的距离小于给定阀值的样本占该类样本总数的比例作为该类的中心密度，再依据中心密度精选部分区域的非支持向量加入训练集。实验证明，新的学习算法不仅节省了运算时间，而且提高了分类精度。

全文目录

摘要  3-4
Abstract  4-7
第一章绪论  7-13
  1.1 选题背景及其研究意义  7-9
  1.2 国内外相关研究现状  9-10
  1.3 本文主要工作及内容安排  10-13
    1.3.1 本文的主要工作  10
    1.3.2 本文的内容安排  10-13
第二章支持向量机的基本理论  13-27
  2.1 机器学习理论  13-15
    2.1.1 学习问题的表述  13-14
    2.1.2 学习问题的形式  14-15
    2.1.3 经验风险最小化  15
  2.2 统计学习理论  15-17
    2.2.1 学习一致性及 VC 维  15-16
    2.2.2 结构风险最小化  16-17
  2.3 支持向量机  17-25
    2.3.1 线性可分情况  17-18
    2.3.2 线性不可分情况  18-20
    2.3.3 非线性可分情况  20-22
    2.3.4 核函数  22
    2.3.5 支持向量机的几种变形算法  22-25
  2.4 本章小结  25-27
第三章支持向量机增量学习算法  27-35
  3.1 支持向量机增量学习算法的提出  27-28
  3.2 KKT条件与样本分布的关系  28-30
  3.3 支持向量机增量学习算法  30-33
  3.4 本章小结  33-35
第四章基于中心距离比值和中心密度的支持向量机增量学习算法  35-45
  4.1 边界向量预选取方法  35-38
  4.2 选取间隔边界附近非支持向量的中心密度法  38-39
  4.3 基于中心距离比值和中心密度的支持向量机增量学习算法  39-40
  4.4 实验结果及分析  40-43
  4.5 本章小结  43-45
结束语  45-47
致谢  47-49
参考文献  49-53
在读期间研究成果  53-54

支持向量机增量学习算法研究

内容摘要

全文目录

相似论文