首页> 中国专利> 一种高精度实现平方根倒数的计算系统及其计算方法

一种高精度实现平方根倒数的计算系统及其计算方法

摘要

本发明公开了一种高精度实现平方根倒数的计算系统及其计算方法,在数字信号处理领域,比如在信号归一化等运算处常有运用。包括判零及符号判断单元、缩放模块、Tylor计算单元和牛顿迭代单元,所述零及符号判断单元、缩放模块、Tylor计算单元和牛顿迭代单元依次连接。本发明使用牛顿迭代与Tylor公式结合的方法计算平方根倒数。使用Tylor公式计算初值,给到牛顿迭代。Tylor公式,以48个数据的存储,及1个乘法3个加法的代价,相较于直接存储表的方法,节省了700个数据的存储资源。使用牛顿迭代计算,能够直接将初值的精度提高1倍。使得最大计算误差由2^(‑10)提升到2^(‑20),性能优越。

著录项

  • 公开/公告号CN111814107B

    专利类型发明专利

  • 公开/公告日2021-03-12

    原文格式PDF

  • 申请/专利权人 上海擎昆信息科技有限公司;

    申请/专利号CN202010662685.1

  • 发明设计人 谭定富;

    申请日2020-07-10

  • 分类号G06F17/17(20060101);G06F17/16(20060101);G06F16/25(20190101);

  • 代理机构11350 北京科亿知识产权代理事务所(普通合伙);

  • 代理人李兴林

  • 地址 201306 上海市浦东新区中国(上海)自由贸易试验区临港新片区环湖西二路888号C楼

  • 入库时间 2022-08-23 11:34:47

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号