首页> 中国专利> 基于bert的多层注意力机制关系抽取方法

基于bert的多层注意力机制关系抽取方法

摘要

本发明涉及实体关系提取方法,特别是涉及一种基于bert的多层注意力机制关系抽取方法,包括如下步骤:步骤S1:获取样本数据;步骤S2:对样本数据进行划分;步骤S3:对样本数据中的实体用#替代;步骤S4:获取实体并将实体与句子之间用$连接起来,形成训练样本;步骤S5:将训练样本输入到BERT语言模型及全连接层,进行向量化处理,获取融合特征向量化表示;步骤S6:对训练样本依次增加字注意力机制,并对其局部特征增加权重;步骤S7:增加句子级注意力机制,对全局特征增加权重;步骤S8:将句子级特征向量经全连接层后输入到分类器中,获取分类结果。

著录项

  • 公开/公告号CN113987150A

    专利类型发明专利

  • 公开/公告日2022-01-28

    原文格式PDF

  • 申请/专利号CN202111275258.9

  • 发明设计人 王伟;陈加杰;孙思明;

    申请日2021-10-29

  • 分类号G06F16/332(20190101);G06F16/35(20190101);G06F16/36(20190101);G06F40/279(20200101);G06K9/62(20220101);G06N3/04(20060101);G06N3/08(20060101);

  • 代理机构44384 深圳市中科创为专利代理有限公司;

  • 代理人谢志龙;徐方星

  • 地址 518000 广东省深圳市前海深港合作区前湾一路1号A栋201室(入驻深圳市前海商务秘书有限公司)

  • 入库时间 2023-06-19 14:01:55

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号