m'= 2N×m-(2N + 2i + 1),
其中m'是缩放的尾数,N是2的幂。使用预定数量的缩放的尾数高位,从只读存储中读取一组存储的系数,以计算多项式。倒数或平方根的实际计算是通过FPU的点状函数中的多个乘积进行的,以计算函数f(m)的多项式近似值,该近似值与正确答案的差值不超过1位:
f(m)= c.sub.0 + m'×(c.sub.1 + m'×(c.sub.2 + m'×(c.sub.3 +。 。+ m'×c.sub.n))),
,其中c.sub.0。 。 。 c.n是由尾数的高位选择的一组系数。另外,该方法和设备将可能需要一位纠错的近似与已知正确的近似区分开。
公开/公告号US5305248A
专利类型
公开/公告日1994-04-19
原文格式PDF
申请/专利号US19930053035
发明设计人 LAWRENCE M. AMMANN;
申请日1993-04-23
分类号G06F7/38;
国家 US
入库时间 2022-08-22 04:31:54