局部话题概率生成正则化自编码文本嵌入表示方法

摘要

本发明涉及局部话题概率生成正则化自编码文本嵌入表示方法，属于自然语言处理与机器学习领域。本发明首先实现文本集近邻图的构建，包括计算任意文本词对相似性权重、查找文本对的最大加权匹配距离、计算平均化最大加权匹配距离(NMD)相似度、根据NMD结果选择k最近邻并以NMD结果作为边权构建近邻图；然后通过近邻图上直推式多代理随机游走过程构建子空间，进行子空间判定；最后利用子空间的LDA模型生成伪文本，并将伪文本作为正则约束项，与真实文本一起作为自编码网络的重构对象，指导编码网络对抗局部近邻文本话题概率生成结构变化，构建光滑的仿射映射。本发明可以有效保持局部近邻文本话题概率生成结构的光滑性，从而构建光滑的仿射映射函数，增强样本外文本嵌入表示向量的类内紧凑性及类间分离性，提升文本分类、聚类等应用效果。