计算机的错误计算(七十六)
摘要 讨论反正弦函数 asin(x) 的错误计算。
例1. 计算 asin(0.999999999999) .
不妨用 Python 计算:
再在 Visual Studio 2010下用下列代码计算:
#include <math.h>double x=0.999999999999;
double y=asin(x);
printf("%.15lf\n",y);
则运行后输出同样为 1.570794912596977 .
然而,正确值是 0.1570794912581334e1(ISRealsoft 提供)。这样,两者均有 5位错误数字,错误率为 5/16 = 31.25% .