js小数运算出现多位小数如何解决


Posted in Javascript onOctober 08, 2015

和大家分享一个有趣的测试:

0.1+0.2 == 0.3 //false
顿时郁闷,好吧!原来0.1+0.2变成:0.30000000000000004
再来一个 2.4/0.8 =>2.9999999999999996 没办法换种方式,都转换成整数 (2.4 * 100)/(0.8 * 100)
10.22 现在要减去 0.11 结果值又出现了很多的小数 10.110000000000001,然后我就用了 toFixed 方法来过滤小数,但是不知道跟前面那种转换成整数后再执行哪种效率高,好!还是试下再说吧!

var date1 = new Date();
for(var i = 0; i < 10000; i++){
 var result1 = (10.22 - 0.11).toFixed(2);    
}
alert(new Date() - date1);//效率低
  
var date2 = new Date();
for(var j = 0; j < 10000; j++){
 var result2 = (10.22 * 1000 - 0.11 * 1000) / 1000;    
}
alert(new Date() - date2);//效率高
 
alert(0.1 + 0.2 == 0.3); //既然返回false
alert(0.1 + 0.2); //既然返回0.30000000000000004
alert(parseFloat(0.1) + parseFloat(0.2)); //还是返回0.30000000000000004

查了一些资料,一是 JavaScript 浮点数计算的 Bug,另一个是和计算机最终转换成二进制计算有关系,但是为什么不是所有小数都会有这种现象,目前我也不清楚,有时间再去深入研究一下。

解决方法:
解决这种问题两种方法,第一种就是利用JavaScript 的toFixed(n) 方法,直接获取N 位小数,不过,个人觉得这种方法在数据精度上会有一些问题。如果数据精度要求不高的话可以使用。

alert((0.1 + 0.2).toFixed(1));

第二种方法就是自己编写运算方法。以下是自定义加法函数,使用此方法进行相加会避免上面问题。

//自定义加法运算
function addNum (num1, num2) {
 var sq1,sq2,m;
 try {
  sq1 = num1.toString().split(".")[1].length;
 }
 catch (e) {
  sq1 = 0;
 }
 try {
  sq2 = num2.toString().split(".")[1].length;
 }
 catch (e) {
  sq2 = 0;
 }
 m = Math.pow(10,Math.max(sq1, sq2));
 return (num1 * m + num2 * m) / m;
}
alert(addNum(0.1, 0.2));

当然,简单一点也可以写成:alert((num * 3 + 10 * 3) /3); 这样也不会出现 N 多位小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的,或许这就是出现上述问题的原因,还有待我们去深入研究,大家可以多多讨论。

Javascript 相关文章推荐
让你的网站可编辑的实现js代码
Oct 19 Javascript
浅谈JavaScript实现面向对象中的类
Dec 09 Javascript
JS实现屏蔽shift,Ctrl,alt等功能键的方法
Jun 01 Javascript
jquery插件jquery.nicescroll实现图片无滚动条左右拖拽的方法
Aug 10 Javascript
搞定immutable.js详细说明
May 02 Javascript
在Javascript操作JSON对象,增加 删除 修改的简单实现
Jun 02 Javascript
webuploader模态框ueditor显示问题解决方法
Dec 27 Javascript
Node.js如何响应Ajax的POST请求并且保存为JSON文件详解
Mar 10 Javascript
浅谈vuepress 踩坑记
Apr 18 Javascript
swiper在angularjs中使用循环轮播失效的解决方法
Sep 27 Javascript
node.js的Express服务器基本使用教程
Jan 09 Javascript
微信小程序使用map组件实现检索(定位位置)周边的POI功能示例
Jan 23 Javascript
jQuery实现仿微软首页感应鼠标变化滑动窗口效果
Oct 08 #Javascript
js实现超酷的照片墙展示效果图附源码下载
Oct 08 #Javascript
JS实现常见的TAB、弹出层效果(TAB标签,斑马线,遮罩层等)
Oct 08 #Javascript
Javascript控制div属性动态变化实例分析
Oct 08 #Javascript
JS+CSS实现的蓝色table选项卡效果
Oct 08 #Javascript
分享五个有用的jquery小技巧
Oct 08 #Javascript
用JavaScript判断CSS浏览器类型前缀的两种方法
Oct 08 #Javascript
You might like
PHP 面向对象程序设计(oop)学习笔记 (二) - 静态变量的属性和方法及延迟绑定
2014/06/12 PHP
PHP+MySQL之Insert Into数据插入用法分析
2015/09/27 PHP
php微信开发之自定义菜单完整流程
2016/10/08 PHP
PHP 计算两个特别大的整数实例代码
2018/05/07 PHP
gearman中任务的优先级和返回状态实例分析
2020/02/27 PHP
javascript 在网页中的运用(asp.net)
2009/11/23 Javascript
推荐20家国外的脚本下载网站
2011/04/28 Javascript
基于JavaScript 类的使用详解
2013/05/07 Javascript
jquery实现显示已选用户
2014/07/21 Javascript
jQuery聚合函数实例
2015/05/21 Javascript
Bootstrap教程JS插件弹出框学习笔记分享
2016/05/17 Javascript
JavaScript学习笔记整理_关于表达式和语句
2016/09/19 Javascript
jQuery css() 方法动态修改CSS属性
2016/09/25 Javascript
简单实现JS计算器功能
2016/12/21 Javascript
vue2 前后端分离项目ajax跨域session问题解决方法
2017/04/27 Javascript
JS简单实现父子窗口传值功能示例【未使用iframe框架】
2017/09/20 Javascript
JavaScript实现随机数生成器(去重)
2017/10/13 Javascript
Angular实现的简单定时器功能示例
2017/12/28 Javascript
基于vue.js中事件修饰符.self的用法(详解)
2018/02/23 Javascript
vue生命周期和react生命周期对比【推荐】
2018/09/19 Javascript
nodejs 使用 js 模块的方法实例详解
2018/12/04 NodeJs
vue+vant实现商品列表批量倒计时功能
2020/01/13 Javascript
vuex 多模块时 模块内部的mutation和action的调用方式
2020/07/24 Javascript
python使用7z解压软件备份文件脚本分享
2014/02/21 Python
解决python写的windows服务不能启动的问题
2014/04/15 Python
Windows下Anaconda安装、换源与更新的方法
2020/04/17 Python
python+selenium 简易地疫情信息自动打卡签到功能的实现代码
2020/08/22 Python
Python中正则表达式对单个字符,多个字符和匹配边界等使用
2021/01/27 Python
传媒专业推荐信范文
2013/11/23 职场文书
早餐连锁店计划书
2014/01/08 职场文书
五好党支部事迹材料
2014/02/06 职场文书
诚信考试承诺书
2014/03/27 职场文书
2015年小学中秋节活动总结
2015/03/23 职场文书
留学推荐信怎么写
2015/03/26 职场文书
房屋维修申请报告
2015/05/18 职场文书
GTX1650super好不好 gtx1650super显卡属于什么级别
2022/04/08 数码科技