分布式语义框架在自然语言理解中的应用

摘要

为了学习非结构化文本与对应的结构化语义知识之间的嵌入语义对应关系,本文提出了一种用于自然语言理解(Natural Language Understanding,NLU)的分布式语义向量学习框架.该语义框架使用长短期记忆对输入序列进行编码以生成文本向量,然后将意图标签、时隙标记和时隙值向量合并生成分布式语义向量,通过最小化文本输出向量与语义框架向量的距离,将语义等价向量放置在向量空间中,最后采用意图重构和时隙标签生成损失作为目标得分以学习鲁棒的语义向量.实验结果表明,所学习的语义向量包含语义信息,该语义框架在NLU结果重新排列方面均优于测试的NLU系统.