IEEE754 FP16

news2024/11/20 6:31:28

. 实数的表达方法

1.定点数表示法

<整数部分>.<小数部分>

例.  666.66

2.浮点数表示法

  1. 科学计数法:有效数字+基数(base+指数(exponent+正负符号位

规范化表示:±d.ddd*β^e0<=di<=β

例. β=10, d范围[0,9]; β=2, d范围[0,1]

(1001.101)2 = 1*2^3+0*2^2+…+ 1*2^(-1) + 0*2^(-2) + 1*2^(-3) = 9.625

. IEEE754标准的浮点表示法

V = (-1)s × M × 2E

1. 符号位(sign)s

s决定该数是正数(s=0)还是负数(s=1),十进制数0特殊处理

2. 阶码(exponent)

E = e- bias, 15的偏差值

(1)可表示的数据量:2^5=32

(2)表示范围:规格化数据(normal data,E不全为0或者1, 1111100000有其他含义

max_e = 11110 -01111 = 15

min_e = 00001 -01111 = -14

3. 尾数(significand)M

M是一个二进制小数,normal data中有一个隐含的1 1.xxxxx)—— M=1+ M

min_M = 0000 0000 01 = 1 + 2^(-10) = 1.000976525

max_M = 1111 1111 11 = 1 0000 0000 00 – 0000 0000 01 = 1 + 2 ^0 -2^(-10) = 1.9990234375

三.数据表示范围(举例正数范围)

  1. normal value 规格化数
    E不全为0或者1M任意。

    E15M= max S=0
    --> 
    0 11110 1111111111 = -1)^0 * 2^15 * (1 + 1 - 2^-10) = 65504 (FP16 最大值)

    E = -14M = 0 (min), S = 0
    -->
     0 00001 0000000000 = -1)^0 * 2^-14 * (1 +  0) = 2^-14 6.104 E-5 (最小正规格化数)
     
  2. Subnormal value 非规格化数
    E = 00000, M不全为0时,表示subnormal value, 是非常小的数,表示接近0的数。

    E=1-15=-14, 而不是0-15,原因:为了平滑过渡,通过增加1可以弥补subnormal value最高位没有的1,此时小数域最高不是1而是0

    -->  0 00000 0000000001 = -1)^0 * 2^-14 * (0 + 2^-10)  = 2^-24  5.96E-8
     

  3. 0 00000 0000000000 = -1)^0 * 2^-14 * (0 + 0)  = +0
    1 00000 0000000000 = -0
     
  4. 无穷大
    E=11111M全为0
    0 11111 0000000000 = +inf
    1 11111 0000000000 = -inf
     
  5. NaNnot a number 非数值型
    E=11111M不全为0

 四.浮点数舍入方式

结论:浮点数并不能表示所有的实数

比如十进制的2.1没有完全对应的二进制数,浮点数只能近似的表示一些实数,为了尽量精确的表示这个实数就只能尽量增加二进制的位数,但是数据类型的位数是有限的

IEEE浮点格式定义了多种的舍入方式,如:

方式

解释

-2.50

-1.50

1.50

2.50

1.6

1.4

Round half to even

默认模式, 与我们熟悉的“四舍五入”比较的不同只有:对.5的舍入,采用取偶数的方式

-2

-2

2

2

2

1

Round toward 0(截断)

C/C++的类型转换

-2

-1

1

2

1

1

Round toward -

(向下舍入)

C/C++函数floor()

-3

-2

1

2

1

1

Round toward +

(向上舍入)

C/C++函数ceil()

-2

-1

2

3

2

2

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1105427.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

智能井盖的用处有哪些?好用在什么地方?

智能井盖是一种基于物联网技术的井盖系统&#xff0c;通过集成传感器、通信设备和数据处理功能&#xff0c;实现对井盖的实时监测、远程管理和智能化控制。WITBEE万宾的智能井盖传感器EN100-C2&#xff0c;只要在城市需要的井盖上面安装即可使用&#xff0c;一体式结构&#xf…

Python pip 替换国内镜像源

pip它还有一个非常好的特点&#xff0c;当你安装一个库的时候&#xff0c;它会自动帮你安装所有这个库的依赖库。完全一键式操作。非常方便。但是由于pipy网站是国外网站&#xff0c;很容易会被墙&#xff0c;导致经常下载速度非常慢&#xff0c;经常超时。 解决办法&#xff…

BSA研究方案——如何从容不迫的进行性状定位

&#xff08;一&#xff09;BSA基本概念 BSA即集群分离分析法&#xff0c;是Bulked-Segregant Analysis的首字母缩写。具体是利用差异目标性状的两个亲本构建家系&#xff0c;在子代分离群体中选取目标性状个体构建DNA混合池&#xff0c;采用高通量测序技术对混池DNA进行建库测…

在VScode中启动的前端项目关于 Local 和 Network 两个地址的区别

首先这两个地址在你的电脑上都是可以访问的 具体区别&#xff1a; localhost 是供当前电脑访问的地址&#xff0c;仅供你自己访问&#xff0c;其他人通过localhost 是访问不到你跑的项目的。你把 localhost 换成IP地址 127.0.0.1 也是相同的效果&#xff0c;因为 127.0.0.1 也…

uniapp vue3.0+TS 上传单张或多张图片,并且能删除和预览。

一、uniapp vue3.0TS 上传单张或多张图片&#xff0c;并且能删除和预览。 效果&#xff1a;人菜话不多 先上效果&#xff1a; 二、代码 1.HTML 上传图片相关代码 代码如下&#xff1a; <template><view class"images_box"><view class"img…

初始web项目tomcat部署报错404

问题 简单地创建了一个web项目&#xff0c;结果一运行就404咧&#xff0c;真滴烦。。。接下来的项目也没法继续了 问题原因&#xff1a;缺少文件 其实造成这样问题的原因有不少&#xff0c;但在这里我是踩了一个坑。在出问题之前&#xff0c;我运行的其他项目都是可以跑的&…

antdv 锚点踩坑

目录 1.锚点无滚动效果 2. 进入页面跳转到指定锚点 1.锚点无滚动效果 背景&#xff1a;使用antd的锚点时&#xff0c;按照官方文档的用法配置之后发现锚点组件的锚点Title位置没办法随着我的页面滚动而变化&#xff0c;但是点击Title跳转具体锚定位置的功能却是没有问题的 解…

使用 Elasticsearch 作为向量数据库:深入研究 dense_vector 和 script_score

Elasticsearch 是一个非常强大且灵活的搜索和分析引擎。 虽然其主要用例围绕全文搜索&#xff0c;但它的用途广泛&#xff0c;足以用于各种其他功能。 其中一项引起许多开发人员和数据科学家关注的功能是使用 Elasticsearch 作为向量数据库。 随着 dense_vector 数据类型的出现…

排名评估指标综合指南

一、介绍 右排序是机器学习中的一个问题&#xff0c;其目标是以最合适的方式对最终用户的文档列表进行排序&#xff0c;因此最相关的文档出现在顶部。排名出现在数据科学的多个领域中&#xff0c;从推荐系统开始&#xff0c;算法建议一组要购买的商品&#xff0c;最后到 NLP 搜…

STM32F4X TFTLCD ST7735S使用

STM32F4X TFTLCD ST7735S使用 TFTLCD简介TFTLCD使用TFTLCD特点TFTLCD的概念TFTLCD色彩空间三原色RGB颜色RGB565RGB666RGB888 ST7735S驱动芯片ST7735S引脚定义ST7735S 4线SPI模式ST7735S显示原理ST7735S分辨率ST7735S显存结构ST7735S像素点扫描模式MCU操作ST7735S显存方法 TFTLC…

解决appium或selenium使用时driver.find_element_by_xpath中间有删除线问题

一、问题描述 Darren洋在公司电脑搭建完成appium后准备运行appium2.0版本执行脚本时发现执行脚本中的driver.find_element_by_xpath中间有删除线&#xff0c;说明较高版本的appium及selenium中该方法已被弃用。 二、解决办法 该问题解决办法为将driver.find_element_by_xpath()…

广东金媒人的线下交友活动有哪些吸引点呢?

广东金媒人线下交友活动吸引人的地方还是不少的&#xff0c;这也是举办活动的机构中&#xff0c;都具备的优点。 金媒人现场活动有专业的主持人&#xff0c;可以及时帮助大家解疑答惑&#xff0c;让相亲更高效。活动场地都是比较正式、开阔的&#xff0c;一般是西餐厅类型的地方…

网络电视机顶盒怎么样?内行揭晓网络电视机顶盒排名

网络电视机顶盒怎么样&#xff1f;可以说是家家户户不可或缺的部分&#xff0c;但很多朋友买回家发现经常死机和卡顿&#xff0c;究竟要如何选择才不踩坑呢&#xff1f;我身为业内人士给各位分享业内最新发布的网络电视机顶盒排名&#xff0c;跟着我一起看看哪些网络机顶盒最值…

浅谈AI大模型技术:概念、发展和应用

AI大模型技术是指使用超大规模的深度学习模型来解决各种复杂的人工智能问题&#xff0c;如自然语言处理、计算机视觉、多模态交互等。AI大模型技术具有强大的学习能力和泛化能力&#xff0c;可以在多种任务上取得优异的性能&#xff0c;但也面临着计算、存储、通信等方面的挑战…

layui 表格 展开

一、表格嵌套表格&#xff08;手风琴打开&#xff09; <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8"><title>设备上下线统计</title><script type"text/javascript" src"../../../l…

【NPM】particles.vue3 + tsparticles 实现粒子效果

在 NPM 官网搜索这两个库并安装&#xff1a; npm install element-plus --save npm i tsparticles使用提供的 vue 案例和方法&#xff1a; <template><div><vue-particlesid"tsparticles":particlesInit"particlesInit":particlesLoaded&…

【C语言刷题】#define宏实现一个整数的二进制位的奇数位和偶数位交换

本篇文章目录 1. 分析如何交换1.2 得到所有奇数位1.2 得到所有偶数位1.3 奇数位和偶数位交换后相加 2. 实现交换 1. 分析如何交换 这里为了方便演示&#xff0c;使用较小的正整数&#xff08;负数也是一样的&#xff0c;只不过要用算下补码&#xff09;&#xff0c;且不用一个…

VMware Greenplum 7 正式发布!

在当今瞬息万变的商业环境中&#xff0c;企业持续寻求创新途径以优化运营、简化决策过程&#xff0c;并构建独特的竞争优势。实现这些目标的关键在于有效利用海量数据资源。然而&#xff0c;这项任务并不轻松。数据的数量、复杂性和来源呈现出爆发性增长&#xff0c;同时从数据…

Quest 3最新规则调整,降低了积分获取难度和交互Dapp数量

自上周Quest 3启动以来&#xff0c;获得来自社区小伙伴们的支持。你们的热情和参与程度超出了我们的预期&#xff0c;仅在第一天Sui Discord服务器的活动量就惊人地增长了600&#xff05;&#xff01;我们非常高兴与大家一起踏上这个旅程。 同时&#xff0c;我们也关注了到社区…

亿发软件:现代化机械制造行业建设企业一体化管理系统的必要性

机械设备制造行业作为传统制造产业&#xff0c;面临着许多挑战&#xff1a; &#xff08;1&#xff09;项目进度管理困难&#xff0c;难以迅速掌握每个项目的物料采购进度和加工件生产进度。 &#xff08;2&#xff09;采购计划难以制定&#xff0c;各个部门之间的信息交流不…