浮点数加减运算、强制类型转换

news2024/11/25 0:52:25

目录

王道考研ppt总结:

二、个人理解

浮点数加减运算步骤:1、对阶2、尾数加减3、规格化(左规和右规)4、舍入5、判断溢出

三、数据类型转换 


王道考研ppt总结:

二、个人理解

浮点数加减运算步骤:
1、对阶
2、尾数加减
3、规格化(左规和右规)
4、舍入
5、判断溢出

通过十进制浮点数加减法理解二进制加减法:
十进制的浮点数进行加减法:
1、对阶
让低阶向高阶对齐
为什么?
如果是高阶对齐低阶,就会导致小数点前出现一个比较大的整数
而计算机现在要处理的是浮点数,
现在突然出现了一个大的整数,
不好处理,需要特殊处理
所以,让低阶对齐高阶
就只需要对低阶的数据进行左移,阶码对应增大即可

2、当阶码对齐,尾数进行相加减

3、尾数的结果如果超过了9,或者为0,需要规格化
超过9,尾数向右移动,阶码+1
为0,尾数向左移动,阶码-1

4、舍入
当尾数只能存4位时,但是此时计算得出的尾数结果超过了4位
就需要进行舍入
常用四舍五入的方式
二进制的舍入,一般是0舍1入;或者恒置1法

5、判断溢出
如果阶码的位只有2位,也就是最大只能表示10的99次幂
但是,尾数计算相加时,阶码变成了10的100次幂
明显,溢出
需要特别处理
如果发生上溢,抛出异常
如果发生下溢,直接置0


负数的原码转补码:
1、数值位取反+1
2、从右到左,找到第一个1,这个1右边的数值不变,左边的数值取反,即可得到该负数原码的补码

尾数的扩展:
补码的定点小数的扩展:只需要在后面+0即可s

为什么求一个补码的负数补码需要所有的位取反+1?
1、假设这个数据是原码
那么其负数是一个负数,原来的数据是正数,所以符号位要取反,由0变成1;
数值位要取反+1
所以,如果原来的数据是正数,补码就是原码,负数的补码就是全部取反+1
2、假设这个数据是一个负数
那么其负数就是一个正数,现在的数据是正数,所以符号位要取反,由1变0
数值位,相当于负数的补码变成原码的过程,也就是同样的取反+1
所以,如果是负数的补码,再添加一个负号的补码,事实上就是原码
所以,依旧是整体的取反+1

因此,无论是正数还是负数的补码,当要求其负数的补码时,都是全部取反+1

三、数据类型转换 

char范围详解,为什么是-128~127,以及int类型范围详解(整型数据在内存中的存储)_-127到128什么类型-CSDN博客

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1591506.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Suno AI

Suno is the latest big name in AI, but what is it? Keep reading to learn everything you need to know about Suno AI, including what it is, what it can do, and how much it costs. Suno AI是一款由Anthropic公司开发的人工智能音乐生成器,它利用先进…

C语言什么是指针? 什么是指针变量?

一、问题 指针是 C 语⾔中的⼀个重要概念,也是 C 语⾔中的⼀个重要特⾊。它的身影在整个 C 语⾔体系中都会出现,⽽且其概念也⼗分复杂,需要多加注意和思考。 二、解答 为了更好地弄清指针的概念,这⾥不得不先提到地址以及数据在内…

2024年助理工程师职称申报时间是什么时候?

2024年助理工程师职称评审申报仅有10天时间 2024年助理职称申报条件:1.学历满足专三或者本一2.工程类专业毕业3.中专毕业满足5年 如果有学历条件不符合的话,可以跟甘建二这边协商,帮你解决 继续教育要求:中专毕业或⼤学专科毕业…

GAN:对抗式生成网络之图片生成

对抗式生成网络(Adversarial Generative Network, AGN)这一术语在您提供的信息中并未直接出现。通常,在深度学习文献和实践中,与“对抗”和“生成”概念相结合的网络架构指的是生成式对抗网络(Generative Adversarial Networks, GANs)。GANs由Ian Goodfellow等人于2014年…

Golang | Leetcode Golang题解之第26题删除有序数组中的重复项

题目&#xff1a; 题解&#xff1a; func removeDuplicates(nums []int) int {n : len(nums)if n 0 {return 0}slow : 1for fast : 1; fast < n; fast {if nums[fast] ! nums[fast-1] {nums[slow] nums[fast]slow}}return slow }

M12设备端面板安装连接器板后安装(前锁)L扣

M12设备端面板安装连接器板后安装(前锁)L扣 优势 -100% 电气测试及插拔测试-对于紧凑型设备&#xff1a;可在有限空间内传输很高的功率-密封圈受过度拧紧保护&#xff0c;实现长期可靠的密封 标准 IEC61076-2-111 锁紧方式 螺纹锁紧 订单料号 P/N: L-KYF12K4Z-PG9-M-L0.…

SpringBoot启动流程分析之准备应用上下文refreshContext()

文章目录 源码入口1、准备刷新1.1、子类prepareRefresh()方法1.2 父类prepareRefresh&#xff08;&#xff09;方法 2、通知子类刷新内部bean工厂3、准备bean工厂4、允许上下文子类对bean工厂进行后置处理 源码入口 org.springframework.boot.SpringApplication#run(java.lang…

Linux中磁盘的分区,格式化,挂载和文件系统的修复

一.分区工具 1.分区工具介绍 fdisk 2t及以下分区 推荐 (分完区不保存不生效&#xff0c;有反悔的可能) gdisk 全支持 推荐 parted 全支持 不推荐 ( 即时生效&#xff0c;分完立即生效) 2.fdisk 分区,查看磁盘 格式:fdisk -l [磁盘设备] fdisk -l 查看…

【研发日记】CANoe自动化测试的配置方式(三)——SystemVariables数组方式

文章目录 前言 一、例程功能 二、仿真ECU 三、SystemVariables数组&#xff1a; 四、测试模块 五、测试运行效果 六、分析和应用 总结 前言 近期在做的一个自动化测试项目&#xff0c;尝试了一种以前没用过的测试配置方式&#xff0c;感觉效果还不错。然后又回顾了一下以…

Trl: llama2-7b-hf使用QLora 4bit量化后ds zero3加上flash atten v2单机多卡训练(笔记)

目录 一、环境 1.1、环境安装 1.2、安装flash atten 二、代码 2.1、bash脚本 2.2、utils.py 注释与优化 2.3、train.py 注释与优化 2.4、模型/参数相关 2.4.1、量化后的模型 a) 量化后模型结构 b) 量化后模型layers 2.4.2、参数 a) training args b) peft args c) model arg…

安装一个在线VS Code 随时随地在线编辑代码 code server搭建教程

code-server是一款在线的 VS Code&#xff0c;只需将其部署到服务端&#xff0c;就可以在浏览器上使用 VS Code&#xff0c;本文将介绍 code-server 安装和使用方法。 首先我们需要准备一台Linux服务器&#xff0c;这里我推荐伍六七云&#xff1a;https://www.vps567.com/ 香港…

卫星图像10个开源数据集资源汇总

文章目录 1、UC Merced Land-Use 2、Indian Pines 3、KSC 4、Washington DC 5、BigEarthNet 6、水体卫星图像的图像 7、城市航拍图像分割数据集 8、游泳池和汽车卫星图像检测 9、人工月球景观数据集 10、马萨诸塞州道路数据集 1、UC Merced Land-Use 数据集下载地址&am…

android11 如何修改状态栏的背景

修改status_bar.xml &#xff1a; <LinearLayout android:id"id/status_bar_contents"android:background"#1ABC9C"android:layout_width"match_parent"android:layout_height"match_parent"android:paddingStart"dimen/statu…

数字IC/FPGA——亚稳态及跨时钟域

什么是亚稳态亚稳态会造成什么平均故障间隔时间如何解决亚稳态同步时钟和异步时钟单bit电平信号如何跨时钟域单bit脉冲信号如何跨时钟域多bit信号如何跨时钟域 目录 一、亚稳态1.基本概念2.危害3.平均故障时间4.解决亚稳态的方法 二、跨时钟域1.同步电路和异步电路&#xff08;…

c语言例题,求数组中最大值,99乘法口诀表

例题1&#xff1a;求出数组中最大的值 根据题意&#xff0c;我们知道的是需要从一个数组中找到一个最大的元素并且输出。那首先我们先建立一个数组&#xff0c;然后将一些不有序的整型元素放到数组中&#xff0c;然后再建立一个变量来存放数组中的第一个元素&#xff0c;通过一…

使用avx2 指令集加速向量算法运算

使用cpu-z 查看cpu指令集 2 向量加&#xff0c;乘法&#xff0c;除法 我们使用向量加&#xff0c;为什么函数是0 到 8 的计算&#xff0c;因为avx2 寄存器为256位&#xff0c;同时设置启动增强指令集 #include <immintrin.h> // 引入包含AVX2指令集的头文件void vecto…

AI识别技术详解 --在windows环境中部署基于YOLO v8模型的目标检测

首先 YOLO是一个端到端的目标检测算法&#xff0c;一次前向传播计算&#xff0c;实现图像的多目标检测任务&#xff0c;我么可以在ultralytics官网上查看YOLO的各个版本&#xff08;v1-v8&#xff09;以及源码 使用YOLO v8提供的python接口&#xff0c;训练一个佩戴安全帽的目标…

vue 百度地图 使用 vue-baidu-map 进行当前位置定位和范围展示

vue 百度地图 使用 vue-baidu-map 进行当前位置定位和范围展示&#xff08;考勤打卡&#xff09; 一、创建百度地图账号&#xff0c;获取秘钥二、 引入插件1、安装vue-baidu-map2、在main.js中引入 三、 简单使用 最近写项目的时候&#xff0c;做到了考勤打卡的模块内容&#x…

Qt控件---容器类

文章目录 QGroupBox&#xff08;有标题的分组框&#xff09;QTabWidget&#xff08;带有标签页控件&#xff09; QGroupBox&#xff08;有标题的分组框&#xff09; 属性说明title分组框的标题alignment分组框内部内容的对齐方式flat是否为 扁平 模式checkable是否可选&#x…

僵尸进程和孤儿进程

目录 引言僵尸进程僵尸进程的状态僵尸进程周边知识 孤儿进程孤儿进程的状态 进程中的其他状态①.R---表示进程运行状态。②.S---表示进程的休眠状态。(进程什么都没做)③T 和 t 进程的运行、阻塞和挂起运行阻塞挂起状态&#xff1a; 引言 今天我们来将僵尸进程和孤儿进程以及其…