计算机组成原理(2)- 浮点数的存储

news2024/9/26 5:24:54

1、浮点数的表示方法

假设有以下小数,它表示的十进制数是多少呢?

00000000 00000000 00000000 1010.1010

1*2^3 + 1*2^1 + 1*2^-1 + 1*2^-3 = 10.625

1010.1010可以用科学计数法来表示为1.0101010 * 2^3。关于科学计数法再举个例子0.10101用科学计数法表示为1.10101 * 2^-1

计算机中浮点数的存储方法如下:
请添加图片描述

32位被划分为三个部分:1位符号、8位指数以及23位尾数。这里的符号指数尾数都是什么呢?

  • 符号就是浮点数的正负,正数为0,负数为1;
  • 指数位是科学计数法表示的浮点二进制数的指数,由于指数可能有正负,这里的处理方式是将指数加上127再存到这8位中,相应的读取时要减去127;
  • 尾数位是科学计数法表示的浮点二进制数的小数部分;
  • 由于科学计数法第一位一定是1,所以这一位存储时被舍弃,读取的时候会加上。

10.625为例,它的二进制数表示为1.0101010 * 2^3,它在计算机中存储为:
请添加图片描述
反过读取其表示的值:
(-1)^0 * (1 + 0.010101) * 2^(130 - 127) = 1.010101 * 2^3 = 1010.101

要注意这里的2^3并不是8,指的是小数点向后移动3位!如果是1.0*2^3,它表示小数点向右移动三位,表示的二进制数为0b1000,对应的十进制数为2^3=8。这很重要,看不懂就没法理解下一节的内容。


2、浮点数的范围

浮点数能表示的值的范围是多少呢?

这里有几个规定:

指数尾数binary
2550+/- ∞0 11111111 00000000000000000000000
255非0NaN(not a number)0 11111111 00000000000000000000001

指数为255时对应的值是无穷以及NaN,所以浮点数指数不能取到255,其范围是-127 ~ 127。值的大小取决于指数,所以二进制范围约为-(1*2^127) ~ (1 * 2^127),十进制范围约为-2^127 ~ 2^127

用一个数轴来表示32位浮点数能够表示的十进制范围:

请添加图片描述
看到中间有一段十进制范围-2^-127 ~ 2^-127,这中间是浮点数所不能表示的部分即精度不够的地方,计算方式同上。


3、浮点数的精度

网上很多博文说浮点数的精度为6 - 7位,我看了很是不解!

明明浮点数能表示的十进制最小值可以大约是2^-127,你说它的精度是6-7位不是胡说吗?

我的理解是这样:

浮点数不为0最小值,或者说是最小单位长度为:
0 00000000 00000000000000000000001

对应的二进制数为(1+2^-23)*2^-127,而这个值的精度取决于括号中的2^-23,由于32位浮点数只有23位表示尾数,所以精度最高只能达到2^-23

将二进制数2^-23 转化为十进制 为 10^(-6.9),也就是十进制小数点后6位,所以说精度是6位。

以上说法还比较抽象,这里举个例子,
0 01111111 00000000000000000000001 = (1 + 2^-23) * 2^0 = 0b1.00000000000000000000001
0 01111111 00000000000000000000010 = (1 + .....) * 2^0 = 0b1.00000000000000000000010
0 01111111 00000000000000000000011 = (1 + .....) * 2^0 = 0b1.00000000000000000000011

每次变化都是以最小单位0b0.00000000000000000000001来变化,而这个值对应的十进制数也就是2^-23约为10^(-6.9),所以精度为6位。


以上是我对浮点数的理解,如果错误欢迎指出。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/805480.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

如何以管理员权限安装某个msi

介绍 如何以管理员权限安装某个msi 方法 要以管理员权限在控制台中安装一个 MSI 文件,你可以按照以下步骤操作: 打开命令提示符(或 PowerShell):按下 Win R 键,在运行窗口中输入 “cmd”(或 …

Redis 笔记,基本数据类型、持久化、主从、集群等等问题

标题 😀😀😀创作不易,各位看官点赞收藏. 文章目录 标题Redis 基础笔记1、安装及环境搭建2、Redis 数据类型2.1、String2.2、List2.3、Hash2.4、Set2.5、Zset2.6、BitMap2.7、HyperLogLog2.8、Geospatial2.9、Stream 3、Redis 持久…

数据结构--算法的时间复杂度和空间复杂度

文章目录 算法效率时间复杂度时间复杂度的概念大O的渐进表示法计算实例 时间复杂度实例 常见复杂度对比例题 算法效率 算法效率是指算法在计算机上运行时所消耗的时间和资源。这是衡量算法执行速度和资源利用情况的重要指标。 例子: long long Fib(int N) {if(N …

如何建立Docker私有仓库?

文章目录 docker私有仓库harborHarbor仓库部署Harbor仓库使用 docker私有仓库 Docker 私有仓库是一个用于存储和管理 Docker 镜像的私有存储库。它允许你在内部网络中创建和管理 Docker 镜像,并提供了更好的安全性和控制,因为你可以完全控制谁能够访问和…

el-table 设置行背景颜色 鼠标移入高亮问题处理

一、 设置行背景颜色 1. 需求描述 后端返回表格数据,有特定行数需要用颜色标识。类似于以下需求: 2. 解决方式 方式区别:row-class-name“tableRowClassName”已返回类名的形式设置样式,代码整洁,但是会鼠标高亮&#xff0c…

【IDEA】idea不自动生成target

文章目录 1. 不生成target2. 仅部分文件不生成target2.1. 一般原因就是资源没有设置2.2. 配置编译src/main/java文件夹下的资源文件2.3. 清理缓存(王炸) 3. 参考资料 本文描述idea不生成target的几种情况以及处理方法 1. 不生成target 像下图这样根本就…

JavaSwing+MySQL的在线考试系统

点击以下链接获取源码: https://download.csdn.net/download/qq_64505944/88114390?spm1001.2014.3001.5503 JDK1.8 MySQL5.7 功能:开始做题,上一题,下一题,提交,每题都有时间限制

【SpringⅢ】Spring 的生命周期

目录 🥪1 Bean 的作用域 🥩1.1 singleton:单例模式 🍙1.2 prototype:原型模式 🍱1.3 Bean 的其他作用域 🍜2 Spring 生命周期(执行流程) 🥘2.1 启动容器 🍲 2.2 读…

【代理模式】了解篇:静态代理 动态代理~

目录 1、什么是代理模式? 2、静态代理 3、动态代理 3.1 JDK动态代理类 3.2 CGLIB动态代理类 4、JDK动态代理和CGLIB动态代理的区别? 1、什么是代理模式? 定义: 代理模式就是为其他对象提供一种代理以控制这个对象的访问。在某…

图像 检测 - FCOS: Fully Convolutional One-Stage Object Detection (ICCV 2019)

FCOS: Fully Convolutional One-Stage Object Detection - 全卷积一阶段目标检测(ICCV 2019) 摘要1. 引言2. 相关工作3. 我们的方法3.1 全卷积一阶目标检测器3.2 FCOS的FPN多级预测3.3 FCOS中心度 4. 实验4.1 消融研究4.1.1 FPN多级预测4.1.2 有无中心度…

python学习时与chatgpt4对话的一些感悟

今天学SCENIC教程,看到里面有一句不是很懂 If you run this from a python script instead of a Jupyter notebook, please enclose the code in a if __name__ __main__: construct. 现在把和chatgpt4问答的内容发上来,确实是很厉害 没有太看懂&…

Verilog语法学习——LV6_多功能数据处理器

LV6_多功能数据处理器 题目来源于牛客网 [牛客网在线编程_Verilog篇_Verilog快速入门 (nowcoder.com)](https://www.nowcoder.com/exam/oj?page1&tabVerilog篇&topicId301) 题目 描述 根据指示信号select的不同,对输入信号a,b实现不同的运算。输入信号a…

蓝海卓越计费管理系统存在弱口令

连伟人的一生都充满了那么大的艰辛,一个平凡的人吃点苦又算得了什么呢? 漏洞描述 蓝海卓越计费管理系统存在弱口令漏洞 漏洞复现 访问漏洞url: 输入默认的账号密码:admin/admin 登录成功 文笔生疏,措辞浅薄&#…

小米手机MIUI优化的影响

1. 小/红米手机的MIUI优化选项 2. MIUI优化选项的影响 2.1 MIUI优化会影响应用信息展示 MIUI优化选项会影响到应用信息的内容展示,具体如下图所示: 如果我们需要在应用信息里展示自启动入口,那我们就需要开启MIUI优化。 2.2 MIUI优化会影…

C++对C的加强(全)

目录 C对C的加强 命名空间 为什么要使用命名空间 怎么使用命名空间 命名空间的定义 命名空间的使用 使用域解析符 :: 使用using声明 内联命名空间 嵌套命名空间 随时将新的成员加入命名空间 命名空间中 函数的声明和实现分开 无名命名空间 命名空间取别名 使用u…

苍穹外卖day08——地址簿+用户下单+订单支付(做不了)

导入地址簿——需求分析与设计 产品原型 接口设计 数据库设计 导入地址簿——代码导入 导入地址簿——功能测试 没有问题 用户下单——需求分析与设计 业务说明 业务流程 接口设计 数据库设计 用户下单——代码开发 DTO设计和VO设计 Controller层中 RequestMapping(&q…

Clock时钟电路PCB设计布局布线要求

时钟电路就是类似像时钟一样准确运动的震荡电路,任何工作都是依照时间顺序,那么产生这个时间的电路就是时钟电路,时钟电路一般是由晶体振荡器、晶振、控制芯片以及匹配电容组成,如图1所示。 图1 时钟电路 针对时钟电路PCB设计有以…

小白的机器学习之路(四)神经网络的初步认识:基于pytorch搭建自己的神经网络

小白的机器学习之路(四) 引子神经网络的基本结构反向传播算法和激活函数优化器如何通过pytorch搭建自己的BP network 引子 当前交通大数据业务的需要,需要承担一部分算法工作(数据处理),考虑到上次研究深度…

用哪些指标可以抓住现货白银趋势?

在现货白银走势分类中,走势一般来说之分成三类,一个是上升,一个是下跌,还有一个是水平。对于投资者来说,趋势,也就是上升或者下跌是我们喜爱的,那么我们如何捕捉这种趋势呢?我们可以…

【雕爷学编程】MicroPython动手做(02)——尝试搭建K210开发板的IDE环境

知识点:简单了解K210芯片 2018年9月6日,嘉楠科技推出自主设计研发的全球首款基于RISC-V的量产商用边缘智能计算芯片勘智K210。该芯片依托于完全自主研发的AI神经网络加速器KPU,具备自主IP、视听兼具与可编程能力三大特点,能够充分适配多个业务场景的需求。作为嘉楠科…