当前位置: 首页 > news >正文

浮点数的使用

浮点运算

浮点,英文float point,其字面意义就是可以漂移的小数点(浮动的小数点),来表示含有小数的数值。

我们在数学运算中,经常会遇到无限小数,如1/3=0.333333…无限循环,然而计算机存储容量是有限的,需要舍弃掉一些精度,存储近似值。

讨论浮点精度的目的也是在于程序中进行浮点数使用以及比较的时候更加小心。

浮点在计算机中存储

以前不同CPU的浮点表示方式是不同的,这就导致了机器之间的兼容性问题,后来英特尔发布了8087浮点处理器,被IEEE采用,成为业界的标准,被几乎所有CPU采用(有的GPU除外)。

IEEE754定义了浮点的存储格式,如何取舍(rounding mode),如何操作(加减乘除等)以及异常处理标准(异常发生的时机与处理方式)。

首先以单精度浮点型float32为例:

float32是使用32位来表示浮点数的类型,主要有三个部分

  • sign,符号位: 1bit,0是正数,1是负数
  • exponent,指数部分: 8bit,以2为底的指数
  • fraction,有效数部分: 23bit,实际表示24bit数值,浮点数具体的数值,

在这里插入图片描述
sign
0是正数,1是负数;


http://www.mrgr.cn/news/2232.html

相关文章:

  • 【Qt】 常用控件QLCDNumber
  • Leetcode 283 移动零
  • TCP并发服务器
  • 海康相机LinuxSDK CMakeLists.txt
  • flume系列之:定位flume没有关闭某个时间点生成的tmp文件的原因,并制定解决方案
  • 【嵌入式开发之网络编程】网络分层、OSI七层模型、TCP/IP及五层体系结构
  • PE文件格式
  • HarmonyOS开发:长列表界面实现详解(使用懒加载)
  • python3爬虫(未完结)
  • 「OC」探索CALayer:基础知识与实用技巧简要介绍
  • 【知识分享】ubuntu22.04-ESP32环境搭建
  • AI系列-黑神话:悟空
  • 如何将excel以文本形式储存的数字一键转换为数字
  • 8.20刷题笔记
  • SQL学习五大步骤
  • 可复制拖拽流程图
  • AI 进阶实战 | 走进大模型(LLM)+智能体(Agent)+提示词(Prompt)
  • 深度学习基础—Batch Norm
  • PMP考试不用慌,收下这份备考指南(附PMP学习资料包)
  • Tomcat部署项目get请求中文乱码