基于原型记忆的小数据词表示学习方法与系统及相关设备

摘要

本发明涉及自然语言处理技术领域，具体涉及一种基于原型记忆的小数据词表示学习方法与系统及相关设备，目的在于解决传统的分布语义模型为了得到高质量的词表示，要求每个目标词具有大量的上下文样本的问题。本发明的基于原型记忆的小数据词表示学习方法包括：根据通用领域语料库，对键值记忆储存模型进行初始化；根据通用领域语料库学习词表示，并在键值记忆储存模型中存储词的原型表示；根据罕见词语料库，利用键值记忆储存模型，学习罕见词的词表示。本发明中原型表示的构建使得模型不再需要逐个记忆所有过往样本，同时具有更好的泛化能力。在利用大规模语料中完成知识积累后，在小规模语料中给定有限上下文的情况下，快速学习目标词的表示。