首页> 中国专利> 一种基于连词标记和强化学习的自然语言推理方法

一种基于连词标记和强化学习的自然语言推理方法

摘要

本发明提供了一种基于连词标记和强化学习的自然语言推理方法,包括以下步骤:(1)在连词预测任务上训练一个连词预测模型;(2)在自然语言推理模型中,输入前提和猜想文本并使用编码器对其编码,得到表达矩阵;(3)将连词预测模型的编码器嵌入到自然语言推理模型中,将步骤(2)编码过程中得到的前提和猜想的词向量送入预训练好的编码器并输出表达向量;(4)将自然语言推理模型的编码器和嵌入的连词预测模型中的编码器在注意力机制中交互,得到一个注意力向量;(5)将注意力向量转化为概率分布并输出结果。利用本发明,通过迁移其他监督学习任务所学到的知识,大大提升了在大规模数据集上进行自然语言推理任务的准确率。

著录项

  • 公开/公告号CN108717574B

    专利类型发明专利

  • 公开/公告日2021-09-21

    原文格式PDF

  • 申请/专利权人 浙江大学;

    申请/专利号CN201810252473.9

  • 发明设计人 潘博远;蔡登;赵洲;何晓飞;

    申请日2018-03-26

  • 分类号G06N5/04(20060101);G06F40/30(20200101);G06N3/08(20060101);

  • 代理机构33224 杭州天勤知识产权代理有限公司;

  • 代理人马士林

  • 地址 310013 浙江省杭州市西湖区余杭塘路866号

  • 入库时间 2022-08-23 12:31:12

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号