【Java se】为什么大部分小数在计算机中是不精确的

news2025/2/25 21:11:32

目录

一、什么是小数

二、浮点数在计算机中的转换规则

(1)整数部分转换步骤

(2) 小数部分转换步骤

三、使用代码说明

四、手动转换小数


一、什么是小数

        在计算机中,也称小数为浮点数,因为在使用科学计数法时,数字的小数点是可以“浮动”的。

        在Java中,关于浮点数有两种数据类型:

FloatDouble
含义单精度浮点数双精度浮点数
Java中的默认值不是默认浮点数类型是默认浮点数类型
Java中所占字节数4字节8字节
最大值

3.4E38

1.79E308

二、浮点数在计算机中的转换规则

        数字在计算机中是采用二进制存储的,在将小数存入计算机中时,要将十进制转为二进制,最后呈现给我们的是二进制在重新转换为十进制的结果。而在十进制转换为二进制的过程中,极易出现无限循环的情况,因此小数将变得不再精确。计算机最终会取一个无限接近结果的小数作为结果。

        十进制数转换为二进制数时,需要对整数部分与小数部分分别进行转换。

(1)整数部分转换步骤

        1.使用十进制的值除以2,得到两个部分,商和余数;

        2.商继续除以2,直到商为0为止;

        3.余数倒着看,就是二进制的值。

(2) 小数部分转换步骤

        1.整数部分转整数部分,小数部分转小数部分;

        2.把十进制的小数乘以2:

                (1).结果如果大于1,转换后的小数后面记1;

                (2).结果如果小于1,转换后的小数后面记0。

        3.直到结果为1.0为止。

三、使用代码说明

public class Demo01 {
	public static void main(String[] args) {
		double x = 10 - 9.9;
		double y = 1.0 - 9.0 / 10;
		
		//观察x和y是否相等:
		System.out.println(x);
		System.out.println(y);
		
		//判断x和y是否相等
		System.out.println(x == y);
		System.out.println(Math.abs(x - y) < 0.000001); //Math.abs()取绝对值
	}
}

        运行结果:

         我们发现,在日常计算中,x与y的值应该是相等的,但是使用浮点数进行除法运算后,就已经将值变得不精确了,因此,两个算式的最终结果不一致,并且相差很小。

四、手动转换小数

        将十进制数0.6转换为二进制数

        我们发现,这里出现了循环,因此浮点数是不精确的。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/618944.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

程序员的炫技代码写法

程序员的炫技代码写法 程序员&#xff0c;这个职业总是让人感到神秘而又充满魅力。他们手中的代码常常充满了令人惊叹的炫技操作&#xff0c;让人不禁感叹他们的技术能力之高。在这篇博客中&#xff0c;我想和大家分享一些我所知道的程序员的炫技代码写法。 一、代码美感——…

什么是死锁?互斥锁进入死锁怎么解决?

1.死锁是什么&#xff1f; &#xff08;1&#xff09;死锁是一组相互竞争资源的线程因为他们之间得到互相等待导致“永久“阻塞的现象&#xff1b; &#xff08;你等我 我等你 你不放我也不放 就导致“永久“阻塞的现象&#xff09; &#xff08;2&#xff09;死锁是指两个或…

mysql索引possible_keys,key问题。

explain中有两个字段possible_keys&#xff0c;key。 possible_keys&#xff1a;表示可能用到的索引。 key&#xff1a;实际使用到的索引。 为什么会有单独的两列&#xff1f; 你的where条件中如果使用到了索引列字段&#xff0c;那么possible_keys会列出索引字段对应的索引…

【区块链】科普:零知识证明、ZKRollup 与 zkEVM

译者语:2023 年将迎来 zkEVM 大发展,让我们看看有哪些项目在进行 zkEVM 的研究,zkEVM 可以做什么 原文链接: https://blog.pontem.network/zk-proofs-301-zksync-other-zkevm-b28641dc8565这篇文章让我们解释一下zkEVM是如何工作的,为什么它们是如此重要的创新。 长话短说…

基于html+css的图展示113

准备项目 项目开发工具 Visual Studio Code 1.44.2 版本: 1.44.2 提交: ff915844119ce9485abfe8aa9076ec76b5300ddd 日期: 2020-04-16T16:36:23.138Z Electron: 7.1.11 Chrome: 78.0.3904.130 Node.js: 12.8.1 V8: 7.8.279.23-electron.0 OS: Windows_NT x64 10.0.19044 项目…

云下自建Grafana获取阿里云监控数据

前言 官方文档&#xff0c;我看了要付费的 https://help.aliyun.com/document_detail/313316.html?spma2c4g.217924.0.i2 grafana:8.3.5 插件名称&#xff1a;aliyun-cms-services grafana安装&#xff1a; https://blog.csdn.net/qq_44379042/article/details/121852310 …

Activiti 工作流 学习笔记

环境信息: IntelliJ IDEA 2021.3.3 (Ultimate Edition) JDK 1.8 Activiti 7 文章目录 Activiti 7一、了解工作流1.1 什么是工作流1.2 工作流引擎1.3 常见的工作流引擎1.4 Activiti 概述1.4.1 Activiti介绍1.4.2 建模语言BPMN1.4.3 Activiti使用流程1.4.4 流程设计工具1.4.5 下载…

全排列II

1题目 给定一个可包含重复数字的序列 nums &#xff0c;按任意顺序 返回所有不重复的全排列。 示例 1&#xff1a; 输入&#xff1a;nums [1,1,2] 输出&#xff1a; [[1,1,2],[1,2,1],[2,1,1]]示例 2&#xff1a; 输入&#xff1a;nums [1,2,3] 输出&#xff1a;[[1,2,3],…

OpenGauss MOT 实现技术研究

目录 一、概述 二、技术细节和OpenGauss中的实现 1、内存表在内存中的组织 2、事务并发控制算法 3、检查点算法 这篇文档写于2022年6月份&#xff0c;今天打算发到网上&#xff0c;重读时发现可能opengauss mot现在的代码已经有所改变&#xff0c;文中有些代码分支可能已经…

高效远程控制另一台电脑的3种方法,提升工作效率!

如何从我的电脑控制另一台电脑&#xff1f; “我妈妈的电脑出了问题&#xff0c;我需要帮她修理下&#xff0c;但是我不能亲自去进行故障排除。我应该如何从我的电脑远程控制另一台电脑&#xff0c;并提供远程支持&#xff1f;” 如何远程控制另一台电脑&#xff1f;&a…

基于SpringBoot+Vue的学生综合测评系统设计与实现

博主介绍&#xff1a; 大家好&#xff0c;我是一名在Java圈混迹十余年的程序员&#xff0c;精通Java编程语言&#xff0c;同时也熟练掌握微信小程序、Python和Android等技术&#xff0c;能够为大家提供全方位的技术支持和交流。 我擅长在JavaWeb、SSH、SSM、SpringBoot等框架下…

http缓存详解

为什么要缓存 通过http协议在客户端和服务端建立连接需要消耗时间&#xff0c;重复访问同一个资源&#xff0c;增加访问服务器数据资源的成本&#xff0c;因此&#xff0c;利用浏览器的缓存机制重用以前获取的数据来优化性能 1、 减少了网络延迟&#xff0c;加快了页面响应速度…

分析全志Tina打包流程,并在buildroot上来实现打包生成tina镜像,支持PhoenixSuit烧写

本文转载自全志在线&#xff1a;https://bbs.aw-ol.com/topic/1532/ 步骤简述 首先记录下官方 tina-sdk 打包的log输出。 bookvirtual-machine:~/D1s-Core/tina-d1-h$ pack ---- PACK_CHIP sun20iw1p1 PACK_PLATFORM tina PACK_BOARD d1-h-nezha PACK_KE…

Vue.js 中的指令和组件详解

Vue.js 中的指令和组件详解 在 Vue.js 中&#xff0c;指令和组件是两个非常重要的概念&#xff0c;它们都可以用来扩展 Vue.js 的功能&#xff0c;但它们之间有一些不同之处。本文将对 Vue.js 中的指令和组件进行详细的介绍&#xff0c;并附上相关的代码示例。 指令 在 Vue.j…

华为OD机试真题 Java 实现【找最小数】【2023 B卷 100分】,附详细解题思路

一、题目描述 给一个正整数num1&#xff0c;计算出新正整数num2&#xff0c;num2为num1中移除N位数字后的结果&#xff0c;需要使得num2的值最小。 二、输入描述 输入的第一行为一个字符串&#xff0c;字符串由0~9字符组成&#xff0c;记录正整数num1&#xff0c;num1的长度…

2.1 网络io、io多路复用select/poll/epoll、基于事件驱动的reactor

目录 一、网络IO请求二、一请求一线程三、IO多路复用——select的通俗理解1、select函数2、accpet函数3、recv函数 四、IO多路复用——poll五、IO多路复用——epoll1、epoll_create2、epoll_ctl3、epoll_wait4、epoll_event5、边缘触发和水平触发&#xff09; 五、区别对比1、s…

axios、跨域与JSONP、防抖和节流

文章目录 一、axios1、什么是axios2、axios发起GET请求3、axios发起POST请求4、直接使用axios发起请求 二、跨域与JSONP1、了解同源策略和跨域2、JSONP&#xff08;1&#xff09;实现一个简单的JSONP&#xff08;2&#xff09;JSONP的缺点&#xff08;3&#xff09;jQuery中的J…

Wwise内存问题

1&#xff09;Wwise内存问题 ​2&#xff09;安卓平台特效显示不一致的问题 3&#xff09;多个矩形小方块组成的地形接缝处有黑线问题 这是第339篇UWA技术知识分享的推送&#xff0c;精选了UWA社区的热门话题&#xff0c;涵盖了UWA问答、社区帖子等技术知识点&#xff0c;助力大…

nginx系列第七篇:结合nginx讨论“惊群”问题

目录 1.什么是惊群 2.linux下socket通信之accept"惊群"现象 3.select/poll/epoll"惊群"现象 4.nginx中的惊群处理 1.什么是惊群 "惊群"是多个进程(线程)阻塞在某个系统调用上等待事件触发&#xff0c;当事件触发后&#xff0c;这些睡眠的进程…

数位dp训练笔记

依稀还记得去年寒假的时候对数位dp的恐惧达到了顶峰&#xff0c;打死也不想做一题&#xff0c;也是怎么学都学不会&#xff0c;甚至板子也只是真的去网上copy了一份&#xff0c;自己也都不理解。&#xff08;羞愧&#xff09; 这个状态持续了一年多&#xff08;羞愧羞愧&#…