学位论文 > 优秀研究生学位论文题录展示

长文本辅助短文本的知识迁移聚类方法

作　者: 金瓯
导　师: 俞勇
学　校: 上海交通大学
专　业: 计算机应用技术
关键词: 短文本统计生成模型无监督学习
分类号: TP391.1
类　型: 硕士论文
年　份: 2012年
下　载: 90次
引　用: 0次
阅　读: 论文下载

内容摘要

随着互联网的飞速发展,尤其是微博、在线广告等应用的涌现,出现在互联网上的短文本越来越多,对短文本的理解也就成为了一项非常重要的工作。大部分传统文本挖掘方法都是针对长文本设计的。对于短文本,由于其表征的稀疏性,现有的大部分技术并不能有效地应用在短文本上。为了更好地理解短文本,我们发现通常可以找到主题相关的长文本作为辅助数据来帮助短文本的理解。本文描述了一个创新的短文本聚类方法,该方法通过从辅助长文本数据上迁移知识来帮助短文本聚类。大部分之前用来提高短文本聚类效果的相关工作忽略了短文本和辅助长文本之间的语义及主题不一致性,为了解决这些存在于目标数据和辅助数据间的不一致性,我们提出了一种新的主题模型,二元隐含狄利克雷分配模型(DLDA)。该模型同时从长文本和短文本数据中学习主题,为了针对长短文本语言上的不一致性,我们设计了两个模型来区别对待长短文本。一种模型通过调整文档主题分布的先验对文档集的主题选择进行控制,一种模型通过改进文档生成过程的假设自动控制不同文档对主题的选择。通过在广告和微博(Twitter)数据上的大规模聚类实验,证明我们的方法获得了优于当今主流方法的短文本聚类效果。同时也证明了,考虑目标短文本数据集与辅助长文本数据集之间的差异可以对提升短文本的聚类效果有很大帮助。

全文目录

摘要  5-7
ABSTRACT  7-9
目录  9-12
表格索引  12-13
插图索引  13-14
缩略词对照表  14-15
第一章绪论  15-19
第二章国内外研究现状  19-23
  2.1 短文本挖掘  19
  2.2 迁移学习  19-20
  2.3 主题模型  20-22
    2.3.1 隐含语义分析(LSA)  20-21
    2.3.2 概率隐含语义分析(pLSA)  21-22
    2.3.3 隐含狄利克雷分配(LDA)  22
  2.4 本章小结  22-23
第三章背景知识  23-31
  3.1 隐含狄利克雷分配(LDA)  23-24
  3.2 模型推导  24-29
  3.3 LDA 的一些扩展  29
  3.4 本章小结  29-31
第四章模型设计  31-41
  4.1 任务描述  31-32
  4.2 α-DLDA  32-34
    4.2.1 模型描述  33-34
    4.2.2 基于吉布斯采样的参数估计  34
  4.3 γ-DLDA  34-39
    4.3.1 模型描述  35
    4.3.2 基于吉布斯采样的参数估计  35-39
  4.4 利用隐含主题的聚类  39-40
  4.5 本章小结  40-41
第五章实验与讨论  41-55
  5.1 数据集  41-42
  5.2 评价指标  42-44
    5.2.1 纯度(Purity)  42-43
    5.2.2 商(Entropy)  43
    5.2.3 正则化互信息(NMI)  43-44
    5.2.4 DBI  44
  5.3 基线方法和实现细节  44-46
  5.4 结果  46-48
  5.5 参数和辅助数据集的影响  48-53
    5.5.1 超参数  48-49
    5.5.2 主题个数  49-50
    5.5.3 辅助数据  50-51
    5.5.4 不相关数据  51-53
  5.6 本章小结  53-55
第六章全文总结  55-57
参考文献  57-61
致谢  61-63
攻读学位期间发表的学术论文目录  63

长文本辅助短文本的知识迁移聚类方法

内容摘要

全文目录

相似论文