首页> 外国专利> Method to compute an approximation to the reciprocal of the square root of a floating point number in IEEE format

Method to compute an approximation to the reciprocal of the square root of a floating point number in IEEE format

机译:以IEEE格式计算浮点数平方根的倒数的近似值的方法

摘要

Approximations of reciprocal square roots are provided in IEEE floating point binary format by obtaining an index from an input value, accessing a pair of table values and performing a limited number of simple and rapidly performed manipulations. The maximum relative error in the approximation thus provided is less than 0.75/2(2k+1) as compared with a maximum relative error of 1/2k+2 of known methods, where 2k is the number of table entries.
机译:通过从输入值获取索引,访问一对表值并执行有限数量的简单快速执行的操作,可以以IEEE浮点二进制格式提供倒数平方根的近似值。这样提供的近似值中的最大相对误差小于0.75 / 2 (2k + 1),而已知的最大相对误差为1/2 k + 2 方法,其中2 k 是表条目的数量。

著录项

  • 公开/公告号US8639737B2

    专利类型

  • 公开/公告日2014-01-28

    原文格式PDF

  • 申请/专利权人 JAMES B. SHEARER;

    申请/专利号US20080057927

  • 发明设计人 JAMES B. SHEARER;

    申请日2008-03-28

  • 分类号G06F7/552;G06F7/38;

  • 国家 US

  • 入库时间 2022-08-21 15:59:18

相似文献

  • 专利
  • 外文文献
  • 中文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号