注意: 本文内容于 2024-09-15 20:21:12 创建,可能不会在此平台上进行更新。如果您希望查看最新版本或更多相关内容,请访问原文地址:小记编程语言浮点精度问题。感谢您的关注与支持!
浮点数在计算机中不能精确表示所有的十进制小数,所以在进行运算时可能会出现微小的误差。
浮点数精度问题主要影响使用二进制浮点表示法的编程语言。大多数主流编程语言(如 Java、C、C++、Python、JavaScript 和 Ruby)都使用 IEEE 754 标准来表示浮点数,因此都会受到这一问题的影响。
直观的测试
0.14*100
0.12*100
我后面采取的方式是四舍五入保留一位小数。
/**
* 将传入的 double 转换为小数点后一位
*
* @param value 要转换的 double 值
* @return 转换后的小数点后一位的字符串
*/
public static double roundToOneDecimal(double value) {
BigDecimal bd = new BigDecimal(value);
BigDecimal roundedValue = bd.setScale(1, RoundingMode.HALF_UP); // 四舍五入到小数点后一位
return roundedValue.doubleValue(); // 返回字符串形式的结果
}