toFixed()*100保留的小数位数和预想的不一致

news2024/11/16 19:30:52

目录

一、问题

 二、原因及解决方法

三、总结


一、问题

1.因为演示需要,要造一些假数据,一些数据要求保留2位小数。这需求真的不难,不就是parseFloat().toFixed()不就完了

2.所以很快就写了如下代码:

let a=Math.random()*(12-1)+1;
let b=12;
let random1=parseFloat(a/b).toFixed(4)*100;
let random2=parseFloat(a/b*100).toFixed(2);
let random3=(parseFloat(a/b)*100).toFixed(2);
console.log("random",random1,random2,random3);

3.问题:random1竟然有时候有很多位小数,还是偶现的,就离谱,如图1-1所示。

如图 1-1

 二、原因及解决方法

1.不应该呀,怎么会这么离谱呢?

   先保留4位小数,然后再扩大100倍,不就是小数点右移2位吗?怎么有时候位数竟然 远远大于2呢??????

2.直接进行运算发现,有时候也会有这种问题,如图2-1所示

图2-1

 3.突然意识到应该是 和计算机的计算的精度有关系。计算机中采用二进制进行计算(计算机能够保留、存储和计算的位数是有限制的,现在一般都是64位,对于一些无限小数,计算机无法准确的表示),所以和十进制的计算结果存在差异,最终导致了在十进制中正确的东西,用二进制计算时有问题的情况。

4.解决方法:对最终的计算结果使用 .toFixed(),就能确保保留的小数位数是准确的。toFixed就是用来专门处理float数据保留的小数位数的。

三、总结

1.之前一直听老师在讲台说:浮点溢出。只是知道有这么回事,但是没有举例,也没有实际遇到过,现在算是 温故而知新了。

2.计算机中的运算要确保运算结果和预期一致,使用的方法一定要精准。最好不要把十进制的逻辑代入到代码中,因为二进制计算和十进制计算在精度方面是有区别的。

/*

希望对你有帮助!

如有错误,欢迎指正,非常感谢!

*/ 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/503722.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ChatGPT国内镜像网站大盘点(国内可用免费ChatGPT镜像站点)

目录 ChatGPT国内镜像网站 很多网友想要国内可用免费ChatGPT镜像站点,ChatGPT可以说是最近大火的AI工具,但是国内的小伙伴是无法使用ChatGPT的,要想在国内直接使用ChatGPT的话不仅需要通过技术手段让网络满足要求,还需要国外的手…

搭建ESP-12E外围电路

搭建ESP-12E外围电路 原理图: PCB: 参考的原理图: 扩展知识: USB转串口部分电路设计(CH340N): CH340N引脚封装 参考文章 CH340C的ESP8266一键下载电路设计_ch340c esp8266_坚持努力,冲~的博客…

Binlog日志详解

binlog基本概念 binlog是一个二进制格式的文件,用于记录用户对数据库更新的SQL语句信息,例如:更改数据库表和更改内容的SQL语句都会记录到binlog里,但是不会记录SELECT和SHOW这类操作 binlog的特点 binlog在MySQL的Server层实现…

电路基础(第一章电路模型和电路定律)

第一章 电路模型和电路定律 简介: 电路基础第一篇知识笔记,在书上抄,在网上找,总之把基础的东西搞懂。近期要恶补一下基础了,谁想工作的时候天天被骂啊,弄啥啥不会。开卷。 学习教程参考教材《电路》——邱…

【NLP开发】Python实现聊天机器人(ChatterBot,集成前端页面)

🍺NLP开发系列相关文章编写如下🍺: 🎈【NLP开发】Python实现词云图🎈🎈【NLP开发】Python实现图片文字识别🎈🎈【NLP开发】Python实现中文、英文分词🎈🎈【N…

关于说服(一)

首先有一个原则:没有人喜欢被改变 不好的话术反而会引起别人的抵触心理 为避免触发反抗机制,可以稍微改变一下话术:将 “你应该” 改为 “我需要”** 没人喜欢说教者 说教者常用句式 1 你为什么不肯去试一试 ->(隐喻) 你在逼别人复习反…

复刻ChatGPT语言模型系列-(一)基座模型选取

前言 今天开始我将会推出一系列关于复刻ChatGPT语言模型的博文。本系列将包括以下内容: 复刻ChatGPT语言模型系列-(一)基座模型选取复刻ChatGPT语言模型系列-(二)参数高效微调复刻ChatGPT语言模型系列-(三…

玩机搞机--定制系统 编译系统选项 隐藏设置 关闭app联网 增加设置选项

在接待一些定制rom的过程中。对于有些客户的有些要求作出对应的系统编译操作选项。例如 1-----默认开启usb 2-----默认开启usb安全设置,使其开机就可以投屏操控 3------默认开启关机充电自动重启 4-----对于客户特定的app,使其不能联网操作 5-----对…

【Java入门合集】第四章继承(一)

【Java入门合集】第四章继承(一) 博主:命运之光专栏:JAVA入门 学习目标 1.掌握继承性的主要作用、实现、使用限制; 2.掌握this和super的含义及其用法; 3.掌握方法覆写的操作; 4.掌握final关键字…

Linux——进程信号

进程信号 信号的基础生活中技术上 信号的产生信号捕捉接口信号发送接口向任意进程发送信号向自己发送信号 进程退出时——核心转储 信号的保存信号其它相关概念信号如何实现捕捉的 信号的处理sigset_t信号集操作函数sigprocmasksigpending对于信号保存更深入的理解sigaction 可…

JavaWeb ( 八 ) 过滤器与监听器

2.6.过滤器 Filter Filter过滤器能够对匹配的请求到达目标之前或返回响应之后增加一些处理代码 常用来做 全局转码 ,session有效性判断 2.6.1.过滤器声明 在 web.xml 中声明Filter的匹配过滤特征及对应的类路径 , 3.0版本后可以在类上使用 WebFilter 注解来声明 filter-cla…

JVM 类加载子系统

内存结构概述 粗略图: 详细图: 类加载器与类的加载过程 类加载子系统负责从文件系统或者网络中加载 Class 文件, class 文件在文件开头有特定的文件标识ClassLoader 只负责 class 文件的加载,至于它是否可以运行, 则由 Execution Engine 决定加载的类信…

AI读心重磅突破登Nature!大脑信号1秒被看穿,还能预测未来画面

夕小瑶科技说 分享 来源 | 新智元 最近,来自洛桑联邦理工学院的研究团队提出了一种全新的方法,可以用AI从大脑信号中提取视频画面。论文已登Nature,却遭网友疯狂「打假」。 现在,AI不仅会读脑,还会预测下一个画面了&a…

实验十九、利用运算电路解方程

一、题目 研究利用运算电路解方程。已知一元二次方程为 2 X 2 X − 6 0 2X^2X-60 2X2X−60,试求其解。 二、仿真电路 按方程式搭建电路,如图1所示。该电路为加减运算电路,由于同相和反相端电阻参数对称,故省略掉了同相输入端…

2.docker—数据卷操作

文章目录 1、配置数据卷2、数据卷容器3、小结 1、配置数据卷 挂载 # 创建启动容器时,使用 –v 参数 设置数据卷 sudo docker run ... –v 宿主机目录(文件):容器内目录(文件) ...sudo docker run -it --namec1 -v /home/sjj/data:/root/data_container centos:7 /…

【C++进阶之路】类和对象(中)

文章目录 前言六大默认成员函数 一.构造函数性质默认构造函数构造函数(需要传参) 二.析构函数性质默认析构函数练习 三.拷贝构造函数基本性质:形参必须是引用默认拷贝构造浅拷贝深拷贝自定义类型 四.赋值运算符重载函数基本特征全局的运算符重载函数局部的运算符重载…

深入学习 Kotlin 枚举的进阶用法:简洁又高效~

翻译自:https://towardsdev.com/mastering-enums-in-kotlin-a-guide-to-simplify-your-code-130b5934cb16 Kotlin 作为现代的、强大的编程语言,可以给开发者提供诸多特性和工具,得以帮助我们编写更加高效、更具可读性的代码。 其中一个重要的…

开源工具系列7:Kube-bench

导语 Kube-Bench 是一个基于Go开发的应用程序,属于 Kubernete 的安全检测的工具。它可以帮助研究人员对部署的 Kubernete 进行安全检测。 Kube-Bench 是什么 从本质上来说,Kube-Bench 是一个基于Go开发的应用程序,属于 Kubernete 的安全检…

免费版的mp3格式转换器有哪些?这三款软件帮你实现!

在娱乐文化越来越丰富的今天,人们越来越追求音乐、视频等娱乐方式,其中音乐作为一种能够治愈心灵的艺术形式备受欢迎。但要欣赏一首美妙的音乐,就需要我们自己去制作、编辑并转换其格式,以适应各种软件如MP3、MP4等格式。 方法一…

在 Python 中将 Tqdm 与 Asyncio 结合使用

动动发财的小手,点个赞吧! 简介 困扰 在 Python 中使用并发编程来提高效率对于数据科学家来说并不罕见。在后台观察各种子进程或并发线程以保持我的计算或 IO 绑定任务的顺序总是令人满意的。 但是还有一点困扰我的是,当我在后台并发处理成百…