开发技术-Java BigDecimal 精度丢失问题

news2024/12/28 15:20:43

文章目录

    • 1. 背景
    • 2. 方法
    • 3. 总结

1. 背景

昨天和小伙伴排查一个问题时,发现一个 BigDecimal 精度丢失的问题,即

        double a = 1.1;
        BigDecimal ba = new BigDecimal(a).subtract(new BigDecimal(0.1));
        System.out.println(ba);

输出:

1.0000000000000000832667268468867405317723751068115234375

随后测试了其他类型转为 BigDecimal 后参与计算的效果。

        int c = 1;
        BigDecimal cb = new BigDecimal(c).subtract(new BigDecimal(0.1));
        System.out.println("int---" + cb);

        Integer ci = 1;
        BigDecimal cbi = new BigDecimal(ci).subtract(new BigDecimal(0.1));
        System.out.println("Integer---" + cbi);

        float a = 1.1f;
        BigDecimal fb = new BigDecimal(a).subtract(new BigDecimal(0.1));
        System.out.println("float---" + fb);

        Float fa = 1.1F;
        BigDecimal fba = new BigDecimal(fa).subtract(new BigDecimal(0.1));
        System.out.println("Float---" + fba);

        double b = 1.1d;
        BigDecimal bb = new BigDecimal(b).subtract(new BigDecimal(0.1));
        System.out.println("double---" + bb);

        Double db = 1.1D;
        BigDecimal dbb = new BigDecimal(db).subtract(new BigDecimal(0.1));
        System.out.println("Double---" + dbb);

        String str = "1.1";
        BigDecimal sb = new BigDecimal(str).subtract(new BigDecimal(0.1));
        System.out.println("String---" + sb);

        BigDecimal bd = new BigDecimal("1.1").subtract(new BigDecimal(0.1));
        System.out.println("BigDecimal---" + bd);

输出:

Integer---0.8999999999999999944488848768742172978818416595458984375
float---1.0000000238418579046051348768742172978818416595458984375
Float---1.0000000238418579046051348768742172978818416595458984375
double---1.0000000000000000832667268468867405317723751068115234375
Double---1.0000000000000000832667268468867405317723751068115234375
String---0.9999999999999999944488848768742172978818416595458984375
BigDecimal---0.9999999999999999944488848768742172978818416595458984375

效果都是不行的。

2. 方法

以下几种方式都可以:

        BigDecimal bd2 = new BigDecimal(String.valueOf("1.1")).subtract(new BigDecimal("0.1"));
        System.out.println("String.valueOf---" + bd2);

        BigDecimal bd3 = new BigDecimal(Double.toString(1.1d)).subtract(new BigDecimal("0.1"));
        System.out.println("Double.toString---" + bd3);

        BigDecimal bv = BigDecimal.valueOf(1.1d).subtract(BigDecimal.valueOf(0.1));
        System.out.println("BigDecimal.valueOf---" + bv);

输出:

String.valueOf---1.0
Double.toString---1.0
BigDecimal.valueOf---1.0

需要注意的是,new BigDecimal(str) 会有问题,

new BigDecimal(String.valueOf(str)) 却不会。

3. 总结

推荐使用

new BigDecimal(String.valueOf("1.1"))
new BigDecimal(Double.toString(1.1d))
BigDecimal.valueOf(1.1d)

在这里插入图片描述
(图网,侵删)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1923288.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

做数据线的绿联,怎么做NAS就不灵了?

点击文末“阅读原文”即可参与节目互动 剪辑、音频 / 姝琦 运营 / SandLiu 卷圈 监制 / 姝琦 封面 / 姝琦Midjourney 产品统筹 / bobo 场地支持 / 声湃轩北京录音间 绿联的NAS设备最近频频出问题,从升级系统需要擦除数据,到最近的SSL私钥泄露事件&…

【新书速递】使用MATLAB进行雷达系统分析和设计(第四版)(2022)

来源:公众号高山防务 一、目录 目录 1雷达定义和术语 1.1雷达系统分类和波段 1.1.1高频(HF)和甚高频(VHF)雷达(A和B波段) 1.1.2超高频(UHF)雷达(C波段&am…

如祺出行破发,萝卜快跑走红:网约车平台何去何从?

文:互联网江湖 作者:刘致呈 Robotaxi第一股真的来了? 这两天自动驾驶圈儿热度不断,先是萝卜快跑热搜停不下来,然后广汽旗下网约车平台如祺出行就在港股成功上市。 招股书里,如祺出行自己定义自己是一家“…

机器学习——关于极大似然估计法的一些个人思考(通俗易懂极简版)

最近在回顾机器学习的一些相关理论知识,回顾到极大似然法时,对于极大似然法中的一些公式有些迷糊了,所以本文主要想记录并分享一下个人关于极大似然估计法的一些思考,如果有误,请见谅,欢迎一起前来探讨。当…

昇思25天学习打卡营第9天|MindSpore静态图加速

打卡 目录 打卡 AI编译框架运行模式 动态图模式PyNative 手动控制动态图运行示例-全局context 静态图模式Graph 手动控制静态图运行示例-全局context ​编辑 jit 装饰器加速图编译-例 jit函数变换方式加速图编译-例 jit 加速某个部分的神经网络模块-例 静态图的语法…

基因组、染色体和基因水平上可视化拷贝数变异(CNVs)

1.CNVmap简介 CNVmap是一种用于在基因组、染色体和基因水平上可视化拷贝数变异(CNVs)的工具。CNVkit和CNVpytor是一种检测全基因组拷贝数变异和变异的软件, 该工具的输入是从CNVkit / CNVpytor工具获得的**.cns和.cnr文件格式**。可用于CNV-…

云动态摘要 2024-07-12

给您带来云厂商的最新动态,最新产品资讯和最新优惠更新。 最新优惠与活动 数据库上云优选 阿里云 2024-07-04 RDS、PolarDB、Redis、MongoDB 全系产品新用户低至首年6折起! [免费体验]智能助手ChatBI上线 腾讯云 2024-07-02 基于混元大模型打造,可通过对话方式生成可视化…

基于stm32+小程序开发智能家居门禁系统-硬件-软件实现

视频演示: 基于stm32智能家居门禁系统小程序开发项目 视频还有添加删除卡号,添加删除指纹,关闭继电器电源等没有演示。 代码Git: https://github.com/Abear6666/stm32lock 总体功能: 本门禁系统主要解锁功能分别为卡…

Argo CD入门、实战指南

1. Argo CD概述 1.1 什么是 Argo CD Argo CD 是针对 Kubernetes 的声明式 GitOps 持续交付工具。 1.2 为什么选择 Argo CD 应用程序定义、配置和环境应具有声明性并受版本控制。应用程序部署和生命周期管理应自动化、可审计且易于理解。 2. Argo CD基础知识 在有效使用 Ar…

MySQL数据库day7.11

一,SQL概述 1.1 SQL语句语法 MySQL 数据库的 SQL 语句不区分大小写,关键字建议使用大写, 以分号结尾。例如: SELECT * FROM user; 使用 /**/ 、 -- 、 # 的方式完成注释 /* 多行注释 */ -- 单行注释 # 单行注释 SELECT * FRO…

296个地级市GDP相关数据(2000-2023年)

GDP相关数据:衡量地区经济活动的综合指标 国内生产总值(GDP)是衡量一个国家或地区经济规模和发展水平的核心指标。它反映了在一定时期内,所有常住单位生产活动的最终成果。 GDP的种类及其含义: 名义GDP:按…

QT--槽函数和控件篇一

一、自定义信号和槽函数 QT 将信号和槽集成在QObject类中;发送者和接受者都必须继承这个类。Q_OBJECT宏是实现信号和槽机制、属性系统和元对象系统的关键。Q_OBJECT宏必须出现在每个使用信号和槽的类中,因为它为这些类提供了必要的元数据和功能。信号在…

使用 Python 创建你的第一个情绪分析模型

「AI秘籍」系列课程: 人工智能应用数学基础 人工智能Python基础 人工智能基础核心知识 人工智能BI核心知识 人工智能CV核心知识 BTS 的《Dynamite》1拥有 15,815,254 条评论,是 YouTube 上评论最多的视频之一。 假设 BTS 成员想知道这些听众对这首…

二、计划任务

1.什么是计划任务 对于一些特定的任务,可以设定任务,让服务在规定时间去执行 2.windows中的计划任务 打开控制面板》管理工具》任务计划程序》创建基本任务 3.linux中的计划任务 周期性的计划crontab crontab -l :显示当前的计划惹怒我 -e&#…

探索JT808协议在车辆远程视频监控系统中的应用

一、部标JT808协议概述 随着物联网技术的迅猛发展,智能交通系统(ITS)已成为现代交通领域的重要组成部分。其中,车辆远程监控与管理技术作为ITS的核心技术之一,对于提升交通管理效率、保障道路安全具有重要意义。 JT8…

【单片机毕业设计选题24060】-基于ESP8266的燃气浓度监测系统

系统功能: 1. 连接blinker云平台,通过手机控制。 2. 手机界面text,number控件。 3. 通过DHT11采集温湿度。 4. 通过MQ2采集可燃气体。 系统功能框图: 主要功能模块原理图 资料获取地址 https://shop272529339.taobao.com 部分代码: unsigned char…

【linux】进程间通信(IPC)——匿名管道,命名管道与System V内核方案的共享内存,以及消息队列和信号量的原理概述

目录 ✈必备知识 进程间通信概述 🔥概述 🔥必要性 🔥原理 管道概述 🔥管道的本质 🔥管道的相关特性 🔥管道的同步与互斥机制 匿名管道 🔥系统调用接口介绍 🔥内核原理 …

Python函数 之 匿名函数

1.概念 匿名函数: 使用 lambda 关键字 定义的表达式,称为匿名函数. 2.语法 lambda 参数, 参数: 一行代码 # 只能实现简单的功能,只能写一行代码 # 匿名函数 一般不直接调用,作为函数的参数使用的 3.代码 4.练习 # 1, 定义匿名函数, 参数…

Python excel知识库批量模糊匹配的3种方法实例(fuzzywuzzy\Gensim)

前言 当然,基于排序的模糊匹配(类似于Excel的VLOOKUP函数的模糊匹配模式)也属于模糊匹配的范畴,但那种过于简单,不是本文讨论的范畴。 本文主要讨论的是以公司名称或地址为主的字符串的模糊匹配。 使用编辑距离算法进…

【香橙派】Orange pi AIpro开发板评测,看小白如何从0到1快速入门,以及亲测手写数字识别模型训练与推理

作为业界首款基于昇腾深度研发的AI开发板,Orange Pi AIpro无论在外观上、性能上还是技术服务支持上都非常优秀。 接口丰富,扩展能力强。支持Ubuntu、openEuler操作系统,满足大多数AI算法原型验证、推理应用开发的需求。 目录 开发板介绍亮点顶…