主题模型

摘要： 根据军工软件质量管理要求,航空系统软件测试用例需要进行规范化管理及高效的复用,TCARS系统基于主题模型,通过主题挖掘判断需求的相似性和需求与用例的关联性,实现测试用例高效复用.系统先建立测试用例管理知识库和需求管理库,对新上传的测试用例和需求,经过中文分词和LDA主题抽取处理,自动推荐相似需求和相关测试用例.系统同时推荐与文档相关的标签,方便用户标记和查找所需用例和需求.用户也可以定制搜索条件,通过精确匹配和模糊匹配,查找所需测试用例和需求,对主题生成过程和结果进行可视化,有利于系统分析和优化.

摘要： 本文首先改进了两个推荐方法,提出了将用户的主题模型和应用的主题模型与MF相结合的LDA_MF模型,以及将应用的标签信息和用户行为数据同时加以考虑的LDA_CF算法.为了结合不同算法的优点,在保证推荐准确率的条件下提升推荐结果的多样性,提出了融合LDA_MF、LDA_CF以及经典的基于物品的协同过滤模型的混合推荐算法.文章使用真实的大数据评测所提推荐算法,结果显示所提推荐方法能够得到推荐多样性更好且准确率高的结果。

摘要： Stack Overflow已成为开发人员进行问题求助和知识分享最大的IT技术问答平台.每天该平台有成千上万的新问题被提出,用户很难在海量问题中找到自己能够胜任并有兴趣回答的问题,使得问题常常不能够及时获得回答.因此,将问题推荐给能够及时给出答案的用户,有利于问题获得解答.首先本文在主题模型语料库中首次加入用户问答记录(问题和回答的描述信息)的评论信息,丰富语料库,使得主题模型获得更加精准的主题分布.其次考虑到用户自由参与社区问答的特性,本文对待推荐用户加入活跃度的评估,使得推荐的用户近期处于活跃状态.最后本文将推荐问题转化为分类问题,使用机器学习的方法来解决分类问题,将主题模型获得的用户和问题的主题特征作为特征向量的一部分,最终提出一种基于主题模型和机器学习的回答者推荐方法TMRec.使用Stack Overflow平台公开的真实问答数据进行实验,实验结果显示TMRec在进行Top@50推荐时,查全率达到0.4175,MAP指标达到0.2163,与现有方法RankSLDA相比分别提高了32.3296％和22.7582％.

摘要： 在大数据背景下,以LDA为代表的主题模型数据挖掘技术得到了飞速的发展.随着研究的深入和科技工作者对结果可理解要求的提高,主题模型的可视化也成了研究的热点.本文将主题可视化分为两类:基于文档集内容的主题模型可视化和融合外部特征的主题模型可视化,并在前人研究的基础上,总结了上述两类主题模型可视化,分析了各个可视化工具的优缺点,并对其进行了客观的评价.也对以后的主题模型可视化提出了一些建议并进行了展望.

摘要： K-means聚类算法简单高效,适合处理大规模数据,在文本挖掘领域应用广泛,但算法对初始聚类中心的选择非常敏感.本文基于LDA主题模型提出一种优化K-means初始聚类中心的算法.首先通过LDA主题抽取降低文档特征向量维度,将文档映射到主题空间,通过文档的主题特征确定初始聚类中心的选择;然后,利用平均准确率、F-Score和熵作为文本聚类效果评价指标,对选取的初始聚类中心的聚类结果进行评价.选取标准的机器学习语料库20newsgroup中的数据集作为试验数据,实验结果表明该方法可以根据文本语义信息优化Kmeans初始聚类中心的选择,提高K-means文本聚类效果.

摘要： 随着Web2.0技术的兴起,标签作为Web资源管理和检索的有效方式成为近年的热点研究对象.开发者通常为新的Mashup人工指定若干与功能性相关的标签,以便于用户理解、检索以及实现Mashup资源的分类管理.然而,手动指定标签十分繁琐,且比较浪费时间.目前尚缺乏一种高效的方法能自动为Mashup推荐标签.因此提出了一种基于主题模型的Mashup标签推荐方法,该方法通过寻找与指定Mashup描述相似的Web Application Programming Interfaces(Web APIs),将其已有标签推荐给该Mashup;同时,针对所提方法本文设计了一种标签排序算法,该算法能有效提高标签推荐的精度.使用从programmableweb.com收集的真实数据进行实验表明,本文所提出的方法明显优于传统的基于协同过滤等的标签推荐方法.

摘要： 当前,双向LSTM神经网络等深度学习方法在文本语义特征表达方面取得了突破性的进展,为构建深层次的具有语义连贯性的主题模型提供了可能.但是,现有方法在文本的概率主题建模方面,提升的效果还比较有限.本文提出了一个基于双向LSTM语义强化的概率主题模型DGPU-LDA(Double Generalized Polya Urn with LDA).该模型一方面结合双向LSTM文档语义编码框架DS-Bi-LSTM(Document Semantic Bi-directional LSTM)来实现文档宏观语义的嵌入表示,另一方面采用文档-主题和词汇-词汇双GPU(Generalized Polya Urn)语义强化机制以及LSTM来刻画参数推断过程中的吉布斯采样过程.在搜狗新闻数据集以及20新闻组数据集上的实验结果表明,DGPU-LDA模型在主题语义连贯性、文本分类准确率方面相对于一些比较前沿的主题模型具有一定的优势,同时也表明了该模型在文本语义特征表达方面的有效性.

摘要： 本文的目的是利用在线招聘大数据帮助普通高等学校了解和跟踪企业对员工的技能需求.基于主题模型,同时利用岗位名称和岗位需求进行文本挖掘.把岗位名称中包含的类别信息作为标签,采用PLDA算法得到不同类别的岗位及其方向对应的知识、技能和态度.在计算需求量的相对大小时,一是再次使用PLDA算法,二是在重排序后使用Labeled LDA算法.结果显示,在扎实的数据基础上,能够帮助普通高等学校更有信心地按照劳动力市场的需求来培养人才.

摘要： 本文根据中文商品评论文本的特点,从句法分析、词义理解和语境相关等多角度获取词语间的语义关系,然后将其作为约束知识嵌入到主题模型,提出语义关系约束的主题模型SRC-LDA(semantic relationconstrained LDA),用来实现语义指导下LDA的细粒度主题词提取.由于SRC-LDA改善了标准LDA对于主题词的语义理解和识别能力,从而提高了相同主题下主题词分配的关联度和不同主题下主题词分配的区分度,可以更多地发现细粒度特征词、情感词及其之间的语义关联性.通过实验表明,SRC-LDA对于细粒度特征和情感词的发现和提取具有较好的效果.

摘要： 主题模型目前广泛应用于机器学习与自然语言分析等领域,该模型自动分析一系列未识别的文档,试图通过统计信息发现多个抽象主题.主题模型在新闻文本智能处理与推荐领域的应用前景十分广阔.本文首先从文档自动分类为出发点,介绍文本分析的一般流程.在此基础之上,介绍主题模型和基于LDA模型的文本主题特征提取原理.最后结合Spark大数据处理的内存迭代和分布式计算特性,实现了基于LDA模型的文本主题提取过程,并给出了在新闻文本数据集上的主题抽取与分类预测结果.

摘要： 本发明涉及数据挖掘领域，具体公开了一种基于LDA(Latent Dirichlet Allocation潜在狄利克雷分布)主题模型的电信用户相似度发现方法，其是将电信用户的多维特征与基于概率模型的主题发现算法有机地联系在一起，从四个不同的方面考虑电信用户相似度计算方法，这四个方面分别是：用户的基本属性、通话记录、短信记录以及用户一天中连接的所有基站的位置信息和连接起始时间、结束时间。本发明重点利用LDA主题模型对用户一天中所连基站信息语料库进行建模，利用文本的统计特性，挖掘隐藏在文本内的潜在主题信息，得到文档的主题分布，以此计算文档的相似度，为深入挖掘电信领域用户的相似特征提供有力地保证。

摘要： 本申请公开了用于压缩主题模型的方法和装置。该方法的一具体实施方式包括：获取待压缩的主题模型，该主题模型每一行代表一个单词在各个主题上的分布；将主题模型进行格式转换得到第一主题模型，第一主题模型的每一行代表一个主题在各个单词上的分布；从第一主题模型中选取任意两个主题组成主题对，并将至少一个主题对组成主题对集合，并确定主题对集合中每个主题对的两个主题之间的相似度；将相似度大于相似度阈值的主题对进行合并生成第二主题模型；将第二主题模型进行格式转换得到压缩后的主题模型使得每一行代表一个单词在各个主题上的分布。该实施方式实现了主题模型的快速高效压缩，降低主题模型的存储空间并且提高主题模型的计算效率。

摘要： 本发明提供了一种基于主题模型和向量空间的一词多义分析方法，包括：S1、以式(1)作为目标函数，建立一词多义的主题模型；S2、读取整个文档集合D的数据；S3、主题‑词分布初始化；S4、主题采样；S5、主题向量更新；S6、词向量训练；S7、循环执行S4至S6若干次，以进行若干次迭代；S8、将得出的词向量和主题向量输出并存储；S9、判断是否一词多义。本发明提供的一种基于主题模型和向量空间的一词多义分析方法，可以训练出更优质的词向量、主题向量，使其在一词多义的研究分析中表现出更合理的解释，而且主题模型的表现也明显优于原始模型LDA。本发明通过主题模型、词向量、主题向量这三者的交叉学习来相互提高，能够有效应用于相似性评估、文档分类、主题相关性等任务。

摘要： 本发明公开了一种基于主题模型与用户群组的新闻推荐方法、系统及计算机可读存储介质，包括：利用预设主题模型，生成每个新闻数据各自对应的主题分布；根据用户行为日志与预设主题模型，生成每个用户的兴趣向量；利用隐含语义推荐方法生成每个用户各自对应的第一推荐列表；根据每个用户的兴趣向量，将每个用户聚类到对应的用户群组；利用用户群组推荐方法生成每个用户各自对应的第二推荐列表；根据每个用户各自对应的第一推荐列表和第二推荐列表，生成最终推荐列表；本发明通过将隐含语义推荐方法与用户群组推荐方法的结合，解决了推荐内容缺乏新颖性的问题，使用户可以看到历史兴趣之外的内容开拓眼界，提升了用户体验。

摘要： 本公开提供了一种基于有监督主题模型的文本分类方法及系统。其中，一种基于有监督主题模型的文本分类方法，包括：构建SLDA‑TC文本分类模型；在训练SLDA‑TC文本分类模型的过程中，按照SLDA‑TC‑Gibbs算法对每个词的隐含主题进行采样，且只从与该词所在文本类别标签相同的其它训练文本中进行隐含主题采样；在确定每个词的隐含主题之后，通过统计频次，计算得到文本‑主题概率分布、主题‑词概率分布和主题‑类别概率分布；建立主题与类别之间的准确映射；将待测文本输入至训练生成的SLDA‑TC文本分类模型，推断出待测文本的主题，进而预测文本的类别。

摘要： 本发明提出一种基于图卷积网络和主题模型的恶意代码同源性方法。本方法可以自动地从恶意代码中提取函数调用图和函数指令分布，使用图卷积网络对函数调用图进行嵌入，使用主题模型对指令分布进行变换和降维。主要包括以下几个步骤：(1)提取恶意代码的函数调用图；(2)提取恶意代码的函数指令分布；(3)选取最佳的主题数量；(4)将函数指令分布变换为函数主题分布；(5)将函数主题分布和函数调用图输入到分类模型中，训练模型；(6)将训练好的模型用于判定对恶意代码的家族分类。

摘要： 本发明提出一种基于图卷积网络和主题模型的恶意代码同源性方法。本方法可以自动地从恶意代码中提取函数调用图和函数指令分布，使用图卷积网络对函数调用图进行嵌入，使用主题模型对指令分布进行变换和降维。主要包括以下几个步骤：(1) 提取恶意代码的函数调用图；(2) 提取恶意代码的函数指令分布；(3) 选取最佳的主题数量；(4) 将函数指令分布变换为函数主题分布；(5) 将函数主题分布和函数调用图输入到分类模型中，训练模型；(6) 将训练好的模型用于判定对恶意代码的家族分类。

摘要： 本发明公开了一种基于多样深层主题模型的文本分析方法，构建文本数据的训练样本集与测试样本集；根据训练样本集构建多样深层主题模型，并初始化多样深层主题模型的初始模型参数；根据训练样本集训练多样深层主题模型得到训练模型参数，并根据训练模型参数更新初始模型参数得到训练后多样深层主题模型；根据测试样本集训练训练后多样深层主题模型得到若干测试隐层特征；根据若干隐层特征对训练模型参数行可视化分析，得到若干文本主题；根据若干文本主题、训练样本集、测试隐层特征与测试后多样深层主题模型对文本数据进行分类。本发明可以全面反映文本数据特性，使得文本主题具备较好的可分性，文本分析能力高。

摘要： 本发明涉及一种基于用户聚合主题模型的社交网络用户搜索意图处理系统，包括：在线社交网络数据获取模块，用于在线获取社交网络中的网络数据；数据预处理模块，用于对所述网络数据进行数据清洗，形成网络数据集；搜索意图获取模块，用于采用基于狄利克雷分布和吉布斯采样建立在线社交网络用户聚合主题模型，对网络数据集进行处理，得到用户搜索意图分布、关注者搜索意图分布和用户搜索意图的词分布；并基于用户搜索意图分布、关注者搜索意图分布进行用户意图聚合，获取最终的社交网络用户搜索意图。本发明解决了社交网络上下文稀疏性问题，构建了用户意图权重表示，实现了社交网络用户搜索意图的处理，提高了用户搜索体验。

摘要： 本发明属于文本挖掘技术领域，公开了一种基于主题模型的文本表示方法，包括以下步骤：S1、对文本进行预处理；S2、对预处理后的文本进行吉布斯采样的LDA主题建模；S3、选取每个主题的主题关键词；对主题关键词做归一化处理；S4、把各个主题关键词映射到word2vec空间中；S5、设置距离阈值，删除与其它主题关键词之间的余弦距离大于距离阈值的主题关键词；S6、计算各个主题在word2vec空间中的坐标；计算各个文本中在word2vec空间中的坐标；计算各个文本与各个主题之间的欧式距离，将文本分类到欧式距离最小的主题下面。本发明通过主题模型建模，再映射到Word2vec空间中对文本进行向量化的表示，解决了LDA主题模型中主题歧义区分存在的缺陷，以及单词序列性问题。