当前位置: 首页 > news >正文

计算机的错误计算(七十六)

摘要  讨论反正弦函数 asin(x) 的错误计算。

例1.  计算 asin(0.999999999999) .

       不妨用 Python 计算:

再在 Visual Studio 2010下用下列代码计算:

#include <math.h>double x=0.999999999999;
double y=asin(x);
printf("%.15lf\n",y);

则运行后输出同样为 1.570794912596977 .

        然而,正确值是 0.1570794912581334e1(ISRealsoft 提供)。这样,两者均有 5位错误数字,错误率为 5/16 = 31.25% .


http://www.mrgr.cn/news/13442.html

相关文章:

  • HikariPool-1 - Exception during pool initialization报错解决
  • 为什么需要对即将上线的系统进行压力测试
  • 常见的算法底层思想
  • 深入解析:Nginx 中会话持久性问题的解决策略
  • 279.完全平方数
  • Leetcode19删除链表的倒数第K个节点(java实现)
  • 论文翻译:Multi-step Jailbreaking Privacy Attacks on ChatGPT
  • kafka ---- producer与broker配置详解以及ack机制详解
  • Qt笔记-setRowCount(int rows)方法
  • 使用 Pandas 进行数据可视化:全面指南(六)
  • 【ShuQiHere】《机器学习的进化史『上』:从数学模型到智能算法的百年征程》
  • 较难!第15届蓝桥杯青少组省赛Scratch中级组编程真题
  • OpenCV绘图函数(6)绘制椭圆函数ellipse()的使用
  • 计算机网络 - 应用层
  • C++ STL 关联容器
  • 代码随想录算法训练营第五十二天 | 图论part03
  • 企业级NoSql数据库 --- Redis集群
  • AI的未来已来:GPT-4商业应用带来的无限可能
  • 【python报错已解决】AttributeError: module ‘PIL.Image‘ has no attribute ‘ANTIALIAS‘
  • 医疗数字化转型数据中台架构方案(四)