又踩坑了!BigDecimal使用的5个坑!

news2025/2/27 6:31:30

前言

在日常开发中,BigDecimal类被广泛用于精确的数值、金额的计算。但是在使用BigDecimal的过程中,存在以下这几个坑,大家要注意一下哈~~

1.浮点数初始化的坑

反例:

BigDecimal problematic = new BigDecimal(0.1);
System.out.println("Problematic: " + problematic.toString()); 
//输出 Problematic: 0.1000000000000000055511151231257827021181583404541015625

可以发现,直接使用new BigDecimal(double)构造方法可能会得到一个看起来相当奇怪的结果。这是因为double本身的精度问题会被带入BigDecimal中。为了避免这个问题,推荐使用String参数的构造方法或者使用BigDecimal.valueOf方法,例如new BigDecimal("0.1"),这样可以确保BigDecimal的精度。

由于计算机的资源是有限的,所以是没办法用二进制精确地表示 0.1,只能用「近似值」来表示,就是在有限的精度情况下,最大化接近 0.1 的二进制数,于是就会造成精度缺失的情况。

正例:

BigDecimal problematic1 =  BigDecimal.valueOf(0.1);
System.out.println("Problematic: " + problematic1.toString());

BigDecimal problematic2 =  new BigDecimal("0.1");
System.out.println("Problematic: " + problematic2.toString());
//输出
Problematic: 0.1
Problematic: 0.1

2. 比较数值时使用compareTo()方法而非equals()

BigDecimal bd1 = new BigDecimal("0.10");
BigDecimal bd2 = new BigDecimal("0.1");
System.out.println(bd1.equals(bd2)); // 输出: false
System.out.println(bd1.compareTo(bd2) == 0); // 输出: true

BigDecimal的equals方法不仅比较数值,还会比较对象的scale(小数点后的位数),如果只想比较数值,而不考虑scale,应该使用compareTo方法。

图片

3.做除法时,未指定精度可能异常

BigDecimal dividend = new BigDecimal("10");
BigDecimal divisor = new BigDecimal("3");
BigDecimal result = dividend.divide(divisor); // 未指定精度和舍入模式
System.out.println(result);
//输出
Exception in thread "main" java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result.
 at java.math.BigDecimal.divide(BigDecimal.java:1693)
 at com.example.demo.controller.Test.main(Test.java:26)

除法操作将10除以3,结果是无限循环小数3.3333...,但由于未指定精度和舍入模式,会抛出ArithmeticException异常。

官方有给出解释:

"If the quotient has a nonterminating decimal expansion and the operation is specified to return an exact result, an ArithmeticException is thrown. Otherwise, the exact result of the division is returned, as done for other operations."

要使用BigDecimal时,要记得指定精度,避免因为精度问题带来的损失。

4. BigDecimal转String,科学计数法展示问题

System.out.println( new BigDecimal("0.0000000000001").toString());
BigDecimal bigDecimal = new BigDecimal("1E+12");
System.out.println(bigDecimal.toString());
//输出 1E-13
//输出 1E+12

这是因为 toString() 某些场景下使用科学计数法展示。如果不想用任何计数法,可以使用 toPlainString()

System.out.println( new BigDecimal("0.0000000000001").toPlainString());
BigDecimal bigDecimal = new BigDecimal("1E+12");
System.out.println(bigDecimal.toPlainString());
//输出 
0.0000000000001
1000000000000

5. 注意使用setScale方法设置精度

BigDecimal number = new BigDecimal("123.4567");
BigDecimal roundedNumber = number.setScale(2, RoundingMode.HALF_UP);
//输出
123.46

因为BigDecimal的精度是无限的,因此一般在计算的时候,要注意设置精度几位。

并且,RoundingMode.HALF_UP 是一种舍入模式,用于四舍五入,即当数字的一部分被舍去时,如果剩余部分大于或等于0.5,则向上舍入。除了HALF_UP之外,还有几个常用的舍入模式:

  • UP:远离零方向舍入的舍入模式。总是在非零舍弃部分之前增加数字。

  • DOWN:接近零方向舍入的舍入模式。总是在非零舍弃部分之前减少数字。

  • CEILING:接近正无穷大的方向舍入的舍入模式。如果BigDecimal是正的,则舍入行为与UP相同;如果是负的,则舍入行为与DOWN相同。

  • FLOOR:接近负无穷大的方向舍入的舍入模式。如果BigDecimal是正的,则舍入行为与DOWN相同;如果是负的,则舍入行为与UP相同。

  • HALF_DOWN:向“最近邻居”舍入,除非两边距离相等,此时向下舍入。

  • HALF_EVEN:向“最近邻居”舍入,除非两边距离相等,此时向偶数舍入。这种模式也称为“银行家舍入法”,因为它减少了累计错误。

还有一个点,就是:使用setScale方法实际上会产生一个全新的BigDecimal实例,而不会更改原有对象。所以,当你用setScale调整了数字精度后,别忘了把新生成的对象赋值回原来的变量。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1585342.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Microsoft Office LTSC 2021企业办公新标杆,稳定高效助力业务发展

Microsoft Office LTSC 2021包含Word、Excel、PowerPoint等常用组件,支持实时共享和智能转换功能,允许多个用户同时编辑文档,提高了团队协作效率。还加强了安全性和隐私保护,通过加密协议和安全验证等方法,有效防止了恶…

Fiddler的安装和使用——PC端移动端抓包

Fiddler的安装和使用——PC端&移动端抓包 前言使用fiddler的原因 安装方法安装Fiddler :双击下载的fiddlerSetup.exe,弹出如下界面,点击I Agree 使用方法——PC端抓包配置:打开Fiddler文件夹,点击Fiddler.exe运行fiddler进行配置抓取HTTP…

CSS-文字环绕浮动、行内块分页、三角强化妙用、伪元素选择器

文字环绕浮动 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>文字环绕浮动效果</title><s…

解决unbuntu更新到23.10 mantic firefox无法使用的问题

产看历史版本号&#xff1a; 升级到最新版本后查看&#xff1a; roottesthost01:/home/test/Desktop# lsb_release -a No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 23.10 Release: 23.10 Codename: mantic 打开firefox发现图标找…

OV证书为什么更可信

在网络安全领域&#xff0c;SSL/TLS证书扮演着至关重要的角色&#xff0c;其中组织验证&#xff08;Organization Validation&#xff0c;简称OV&#xff09;证书以其深度验证机制和高度可信性脱颖而出。 OV证书为何更值得信赖&#xff0c;关键在于其严格的验证流程。 首先&am…

2. Spring的创建和Bean的存取

经过前面的学习我们已经大体明白了 IOC 思想以及它的实现方式 DI &#xff0c;本节要讲的是如何Spring框架实现实现DI。 本节目标&#xff1a; Spring(Core) 项目创建将对象存储到 Spring 中将对象(bean)从 Spring 中取出 1. 创建 Spring 项目 与开篇演示的 Spring Boot 项目不…

个人成长秘籍:参加六西格玛绿带培训的好处

在当今竞争激烈的商业环境中&#xff0c;追求卓越与持续改进已成为企业和个人成功的关键。六西格玛绿带培训&#xff0c;作为一种全面提升管理技能和工作效率的培训课程&#xff0c;不仅帮助企业优化流程、提高质量和效率&#xff0c;也为个人职业发展开辟了一条光明大道。张驰…

电脑怎么下载微信小程序的视频

电脑怎么下载微信小程序中的视频资源&#xff0c;本篇文章就教大家如何下载微信小程序的视频资源的方法&#xff0c;这里要借助一个工具:下载高手 下载高手链接&#xff1a;https://pan.baidu.com/s/1qJ81sNBzzzU0w6DWf-9Nxw?pwdl09r 提取码&#xff1a;l09r --来自百度网盘…

Web后端搭建

目录 一 搭建服务器端 1.1安装服务器软件 1.2检查环境是否配置 1.3安装Tomcat 二 创建并发Web项目 2.1创建一个java项目 三 创建Servlet 前端程序如何才能访问到后端程序呢&#xff0c;这时候我们就需要web服务器来解决&#xff1a;将后端程序部署到服务器中&#xff0c…

常见的 Android app 测试面试题

一、开场问题&#xff1a;&#xff08;自由发挥&#xff09; 1、请自我介绍一下&#xff1b; 2、为什么离开上一个公司呢&#xff1f; 3、做测试多久了&#xff1f;以前做过哪些项目&#xff1f;你们以前测试的流程是怎样的&#xff1f;用过哪些测试工具&#xff1f; 4、你觉得…

【攻防利器】Dirsearch 扫描工具

Dirsearch工具引言&#xff1a; Dirsearch是一个用Python编写的开源工具&#xff0c;用于在目标网站上执行基于字典的目录/文件枚举。它可以帮助渗透测试人员和安全研究人员识别目标网站上可能存在但未公开的目录或文件&#xff0c;从而发现潜在的安全风险。 Dirsearch下载地址…

day02 VS Code开发单片机

VS Code开发单片机 1.1 安装 MinGW-w64 1)MinGW-w64介绍 VS Code 用于编辑 C 代码,我们还需要 C 编译器来运行 C 代码,所以安装 VS Code之前我们需要先安装 C 编译器。这里我们使用 MinGW-w64(Minimalist GNU for Windows 64-bit)。 MinGW-w64 是一个用于Windows操作系…

关于IP定位功能问题

前言 近期&#xff0c;微信、抖音、微博、公众号等平台&#xff0c;统统上线用户 IP 属地功能&#xff0c;简单的说&#xff0c;就是在互联网发文、发言时&#xff0c;都会带上自己的地址信息。举个栗子&#xff0c;在公众号发文、在公众号留言&#xff0c;都会带上地址。 IP …

域控软件安全隔离关键技术剖析:MCU域 VS SOC域

安全隔离的需求 功能安全开发中&#xff0c;软件阶段由软件V模型左边的软件安全需求SSR开始。SSR是从技术安全需求TSR中提取出软件的功能安全需求&#xff0c;大多数情况下具有不同的ASIL等级。 图1 功能安全软件开发V模型 随后&#xff0c;软件安全需求会被分配到软件架构中的…

我国量子信息科技创新发展面临的挑战及建议——基于中美对比视角的分析

2024年2月&#xff0c;中国科学技术发展战略院慕慧娟博士、丁明磊研究员及光子盒顾成建一起在《科技管理研究》上发表文章——《我国量子信息科技创新发展面临的挑战及建议&#xff1a;基于中美对比视角的分析》。 在此&#xff0c;我们整理并发布这篇文章&#xff0c;欢迎感兴…

10.java openCV4.x 入门-特殊的Mat类汇总(二)

专栏简介 &#x1f492;个人主页 &#x1f4f0;专栏目录 点击上方查看更多内容 &#x1f4d6;心灵鸡汤&#x1f4d6;我们唯一拥有的就是今天&#xff0c;唯一能把握的也是今天建议把本文当作笔记来看&#xff0c;据说专栏目录里面有相应视频&#x1f92b; &#x1f9ed;文…

web APIs总结(1)

1. 根据CSS选择器来获取DOM元素 (重点&#xff09; 获取一个DOM元素我们使用谁&#xff1f;能直接操作修改吗&#xff1f;querySelector() 可以返回值&#xff1a;CSS选择器匹配的第一个元素,一个 HTMLElement对象。如果没有匹配到&#xff0c;则返null 获取多个DOM元素我们使…

数字安全证书是什么?怎么申请?

数字安全证书&#xff0c;也被称为SSL证书、TLS证书或HTTPS证书&#xff0c;是一种基于公钥基础设施的电子文件&#xff0c;用于验证在线实体&#xff08;如网站、服务器、电子邮件用户等&#xff09;的身份&#xff0c;并建立安全的加密连接。具体来说&#xff0c;数字证书包含…

LeetCode——622设计循环队列

. - 力扣&#xff08;LeetCode&#xff09;. - 备战技术面试&#xff1f;力扣提供海量技术面试资源&#xff0c;帮助你高效提升编程技能,轻松拿下世界 IT 名企 Dream Offer。https://leetcode.cn/problems/design-circular-queue/ 1.题目 设计你的循环队列实现。 循环队列是一…

前端开发攻略---Vue通过自定义指令实现元素平滑上升的动画效果(可以自定义动画时间、动画效果、动画速度等等)。

1、演示 2、介绍 这个指令不是原生自带的&#xff0c;需要手动去书写&#xff0c;但是这辈子只需要编写这一次就好了&#xff0c;后边可以反复利用。 3、关键API IntersectionObserver IntersectionObserver 是一个用于监测元素是否进入或离开视口&#xff08;viewport&#x…