发明名称 | 基本函数的高精度估算 | ||
摘要 | 一个在计算机系统中估算输入值的平方根,倒数的平方根、和倒数的改进的方法。输入值,被规格化后,用来从表中选取常数对。常数是以函数对于输入值偏置的每个区间的线性近似为基础,以降低对于给定区间的最大误差值。通过从第二常数加上或减去规格化常数的一部分与第一常数的乘积来计算所估算的函数。 | ||
申请公布号 | CN1225468A | 申请公布日期 | 1999.08.11 |
申请号 | CN98125971.5 | 申请日期 | 1998.12.31 |
申请人 | 国际商业机器公司 | 发明人 | M·S·施莫克勒;D·N·森齐 |
分类号 | G06F7/52;G06F1/02 | 主分类号 | G06F7/52 |
代理机构 | 中国专利代理(香港)有限公司 | 代理人 | 王勇;张志醒 |
主权项 | 1.在具有处理器的计算机系统中估算输入值的倒数的方法,包括的步骤有:将输入值规格化以产生规格化的输入值;根据规格化的输入值从具有许多区间的表中选取第一常数和第二常数,其中所说的第一和第二常数是以利用给定区间偏置的左边界和右边界的函数1/x的线性近似为基础,以降低在给定区间上的最大误差;以及用微处理器组合第一常数与规格化输入值的乘积和第二常数计算所估算的倒数。 | ||
地址 | 美国纽约州 |