当前位置: 首页 > news >正文

计算机的错误计算(一百三十三)

摘要  对于算式 \frac{1}{9^{6.2}}-\sin(\frac{1}{9^{6.2}})\,,  两种品牌计算器均输出了错误结果。

例1.  计算 \frac{1}{9^{6.2}}-\sin(\frac{1}{9^{6.2}})\,.

       不妨使用两种品牌的计算器进行计算。这时,它们的输出结果一个为 1.191378192\times10^{-6},  一个为0:

                    

       然而,正确值为 0.297...e-18(ISRealsoft 提供)。两种计算器均输出了错误结果。


http://www.mrgr.cn/news/58096.html

相关文章:

  • 《山东科技大学学报(自然科学版)》
  • 代码随想录算法训练营| 134. 加油站 、 135. 分发糖果 、860.柠檬水找零 、 406.根据身高重建队列
  • 两个数组的差值累加和转线段问题
  • 华为开发者工具HarmonyNext (5.0)创建第一个项目并且设置工作区为中文目录
  • OpenCV系列教程六:信用卡数字识别、人脸检测、车牌/答题卡识别、OCR
  • SQL注入之账号登入
  • 【SQL基础:语法、分类与DDL操作全解析】
  • 我毕业后的8年嵌入式工作
  • 1024玩码神挑战赛,太太太上头了!!!
  • 虚拟机配置静态IP地址(人狠话不多简单粗暴)
  • Lucas带你手撕机器学习——朴素贝叶斯
  • 微知SOP-定位Linux crash问题的几个常用方面和常用命令?
  • php命令执行的一些执行函数----以ctfshow靶场为解题思路
  • 超级加速:轻松发现开源项目的终极秘籍
  • 文本相似度方案
  • 【OS】2.1.2 进程的状态与转换_进程的组织
  • 关闭或开启Win11系统的自动更新
  • 软件部署-Docker容器化技术(二)
  • Electron调用nodejs的cpp .node扩展【安全】
  • 【软件工程】软件项目管理/工程项目管理复习资料