当前位置: 首页 > news >正文

计算机的错误计算(七十二)

摘要  讨论大数的余割函数 csc(x)的错误计算。

例1.  在 Excel 中计算 csc(1234567.89) .

       直接贴图:

然而,正确值是 -0.2023325675399672e1(ISRealsoft 提供)。 Excel 的输出中有 6位错误数字。

例2.  在 Maple中计算 csc(32^58.3) .

       若直接输入:

csc(32^58.3);

则输出:

3.964360275

若输入:

Digits := 16;evalf[16](csc(32^58.3));

则输出:

1.362324539698100

       事实上,正确值是 -0.1276417621694295e1(ISRealsoft 提供)。Maple 两次给出的结果均为错误结果。

       当然,若改上述两个16为大一点的数,比如 100,那么应该会得到一些正确数字。


http://www.mrgr.cn/news/7856.html

相关文章:

  • tomcat的session会话保持
  • C# messagePack对类(class)序列化简单示例
  • bug----jdk17使用JOL无法输出java对象的存储布局
  • Web自动化测试:selenium使用详解
  • 常见分布式ID解决方案的优缺点
  • QT Quick QML 网络助手——TCP客户端
  • Python---函数
  • 【Java 优先队列(小顶堆) 分治法 实现合并k个排序链表】
  • 爵士编曲:调式音阶 音阶同和弦 中古调式/教会音阶 旋律小调 减音阶 半音阶 Bebop
  • vue---echarts环形图
  • MyBatis-Plus分页插件使用详解
  • SGM(Score-Based Generative Model)扩散模型简介
  • K8S Secret
  • 批量自动校正图片、PDF文档方向工具
  • [数据集][目标检测]考场行为作弊检测数据集VOC+YOLO格式4413张4类别
  • 基础概念与简单数据结构的学习笔记
  • 虚拟机安装centos7-桥接模式
  • [MRCTF2020]Hello_ misc
  • Flutter【01】状态管理
  • 【GNSS接收机】开源导航接收机