首页> 中国专利> 一种多源神经机器翻译模型的融合和压缩方法

一种多源神经机器翻译模型的融合和压缩方法

摘要

本发明涉及一种多源神经机器翻译模型的融合和压缩方法,属于自然语言处理应用技术领域。首先,构建基于Transformer的多源机器翻译模型;其次,使用CNN融合多个源的编码信息;再次,使用门控机制使模型可以自主选择是否使用辅助源语言;最后,根据矩阵间的距离不同,对矩阵进行不同方式的量化压缩;其中,多源机器翻译模型又包括编码器和解码器,所述模型的压缩包括计算矩阵距离和量化压缩。本发明所述方法针对多源模型结构复杂、参数多带来的存储空间过大问题,又探究了对模型进行量化压缩的方法,获得了更大的压缩率和更高的精准度。

著录项

  • 公开/公告号CN110781690B

    专利类型发明专利

  • 公开/公告日2021-07-13

    原文格式PDF

  • 申请/专利权人 北京理工大学;

    申请/专利号CN201911049943.2

  • 发明设计人 鉴萍;郭梦雪;黄河燕;

    申请日2019-10-31

  • 分类号G06F40/58(20200101);G06N3/04(20060101);G06N3/08(20060101);

  • 代理机构11639 北京正阳理工知识产权代理事务所(普通合伙);

  • 代理人王民盛

  • 地址 100081 北京市海淀区中关村南大街5号

  • 入库时间 2022-08-23 12:07:20

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号