学位论文 > 优秀研究生学位论文题录展示

在线组合分类器应用于大规模垃圾邮件过滤的研究

作　者: 苏保君
导　师: 徐从富
学　校: 浙江大学
专　业: 计算机科学与技术
关键词: 垃圾邮件过滤分类器集成在线算法
分类号: TP393.098
类　型: 硕士论文
年　份: 2010年
下　载: 53次
引　用: 0次
阅　读: 论文下载

内容摘要

随着互联网的普及,垃圾邮件的泛滥在严重干扰了人们的正常工作和生活的同时消耗了大量的带宽资源。传统的反垃圾邮件的方案例如设置过滤规则或者对邮件地址应用黑名单或白名单不仅需要大量的人工介入并且过滤效果也不甚理想,尤其当面对新的垃圾邮件样本时完全无能为力。电子邮件本质上是一种结构化的文本,用机器学习的算法来进行邮件分类其实就是处理文本分类问题。同时由于处理过程需要随时学习新产生的垃圾邮件样本以提高准确性和鲁棒性,所以我们的算法模型必须具有很强的适应性,或者说必须是在线模型。本文将垃圾邮件过滤抽象成在线结构化文本的二分类问题。本文分析并实现了包括逻辑回归、朴素贝叶斯、感知器等先进的在线分类器,并且原创提出了一种新型的改进朴素贝叶斯分类器nsnb。nsnb具有过滤效果优秀以及轻巧快速等一系列特点。在此基础上,本文提出了一种新型的用于在线分类器集成的框架,通过综合八种不同的分类器的输出给出最终的判断。此集成框架规范了邮件数据的预处理过程,统一使用未解码的N-gram算法摈弃了传统的中文分词以及TF-IDF算法,同时对第一层分类器的挑选进行了严格的约束,并且针对问题的在线特性提出了thick thresholding和result scaling两项技术。本文还提出了名为在线权重投票的分类器集成算法并与其它集成算法进行了比较,同时我们还对最佳分类器子集的选择问题进行了深入的探讨。依据本文的理论成果,作者实现了名为Terminator的垃圾邮件过滤器。在实验数据集上的结果远远超过了目前最优秀的垃圾邮件过滤器,并且在合作者网易邮箱提供的数据上面也有非常好的表现。

全文目录

致谢  3-4
摘要  4-5
Abstract  5-6
目次  6-8
图目录  8-9
表目录  9-10
1 绪论  10-16
  1.1 垃圾邮件的危害及研究意义  10-11
  1.2 研究背景和相关工作  11-13
  1.3 本文的贡献  13-15
  1.4 本文结构  15-16
2 Terminator的基本框架  16-21
  2.1 邮件向量化  17-18
  2.2 Result Scaling  18-19
  2.3 Thick Thresholding  19
  2.4 本章小结  19-21
3 单分类器介绍  21-38
  3.1 Not So Naive Bayes  22-26
  3.2 在线逻辑回归  26-28
  3.3 Winnow  28-29
  3.4 Passive-Aggressive  29-30
  3.5 在线边界感知器算法  30
  3.6 单分类器性能对比分析  30-32
  3.7 本章小结  32-38
4 在线分类器组合  38-48
  4.1 相关研究  38-40
  4.2 在线权重投票  40-44
  4.3 最佳分类器子集选取  44-47
  4.4 本章小结  47-48
5 实验  48-55
  5.1 实验设置  48-49
  5.2 实验结果评判标准  49-50
  5.3 实验数据集  50-52
  5.4 网易垃圾邮件特征库  52-54
  5.5 本章小结  54-55
6 总结与展望  55-57
  6.1 总结  55-56
  6.2 展望  56-57
参考文献  57-61
攻读硕士学位期间主要研究成果  61
  6.3 主要参与项目  61
  6.4 论文以及奖励  61

在线组合分类器应用于大规模垃圾邮件过滤的研究

内容摘要

全文目录

相似论文