一种基于卷积网络在中文分词任务上的领域迁移

摘要

本发明提供了一种基于卷积网络在中文分词任务上的领域迁移方法，在用于中文分词任务的卷积神经网络的基础上，通过在传统的用于计算不同领域分布差异的最大化平均差异Maximum Mean Discrepancy方法中，引入注意力机制attention mechanism，使得在训练神经网络的过程中，注意力机制能够获得对于领域迁移任务更具有帮助的语句信息，将最大化平均差异方法更好的引入到序列标注任务中；同时，在计算最大化平均差异的过程中，为能够正向迁移的语句添加较大的权重，而为没有帮助的语句或是反而产生负面影响的语句添加很小的权重，实现更高效的领域迁移，减少人工语料的标注，缓解自然语言处理NLP研究时由于标注语料工作带来的人工和时间的压力。