js数字舍入误差以及解决方法(必看篇)


Posted in Javascript onFebruary 28, 2017

1、起因:

js数字舍入误差以及解决方法(必看篇)

返回结果是true。

2、原因:计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit。

3、解决方法

(1)toFixed(),存在兼容性(chrome)

js数字舍入误差以及解决方法(必看篇)

(2)比较稳妥方法(数字如果过大,也会有误差):

*JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。  大于 9007199254740992 的可能会丢失精度

function round(num,d){

//Step1:将num放大10的d次方倍

num*=Math.pow(10,d);

//Step2:对num四舍五入取整

num = Math.round(num);

//Step:返回num缩小10的d次方倍,获得最终结果

return num/Math.round(10,d);

}

console.log(round(123.456)); //123.46

以上这篇js数字舍入误差以及解决方法(必看篇)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
javascript Object与Function使用
Jan 11 Javascript
Javascript WebSocket使用实例介绍(简明入门教程)
Apr 16 Javascript
JavaScript原生对象常用方法总结(推荐)
May 13 Javascript
js获取当前年月日-YYYYmmDD格式的实现代码
Jun 01 Javascript
基于vue实现swipe轮播组件实例代码
May 24 Javascript
深入理解Angular.JS中的Scope继承
Jun 04 Javascript
一个简易的js图片轮播效果
Jul 22 Javascript
详解vue中router-link标签所必备了解的属性
Apr 15 Javascript
深入浅出 Vue 系列 -- 数据劫持实现原理
Apr 23 Javascript
jQuery实现的记住帐号密码功能完整示例
Aug 03 jQuery
ES6基础之 Promise 对象用法实例详解
Aug 22 Javascript
原生javascript制作的拼图游戏实现方法详解
Feb 23 Javascript
JS实现浏览器打印、打印预览示例
Feb 28 #Javascript
JS基于面向对象实现的多个倒计时器功能示例
Feb 28 #Javascript
js中删除数组中的某一元素实例(无下标时)
Feb 28 #Javascript
jQuery图片切换动画效果
Feb 28 #Javascript
jQuery 判断元素整理汇总
Feb 28 #Javascript
jQuery倒计时代码(超简单)
Feb 27 #Javascript
js实现图片左右滚动效果
Feb 27 #Javascript
You might like
56.com视频采集接口程序(PHP)
2007/09/22 PHP
php加密算法之实现可逆加密算法和解密分享
2014/01/21 PHP
PHP实现支付宝即时到账功能
2016/12/21 PHP
ThinkPHP框架结合Ajax实现用户名校验功能示例
2019/07/03 PHP
用于table内容排序
2006/07/21 Javascript
在IE下获取object(ActiveX)的Param的代码
2009/09/15 Javascript
window.location.hash 属性使用说明
2010/03/20 Javascript
基于jQuery的仿flash的广告轮播
2010/11/05 Javascript
json传值以及ajax接收详解
2016/05/24 Javascript
JavaScript对象创建模式实例汇总
2016/10/03 Javascript
巧用Javascript的逻辑运算符
2016/12/02 Javascript
推荐三款不错的图片压缩上传插件(webuploader、localResizeIMG4、LUploader)
2017/04/21 Javascript
详解node中创建服务进程
2017/05/09 Javascript
JavaScript原型继承_动力节点Java学院整理
2017/06/30 Javascript
bootstrap switch开关组件使用方法详解
2017/08/22 Javascript
vue-cli配置文件——config篇
2018/01/04 Javascript
微信小程序实现animation动画
2018/01/26 Javascript
基于Vue2.X的路由和钩子函数详解
2018/02/09 Javascript
vue文件树组件使用详解
2018/03/29 Javascript
vue弹窗插件实战代码
2018/09/08 Javascript
node.js基础知识汇总
2020/08/25 Javascript
js实现验证码干扰(动态)
2021/02/23 Javascript
python对象及面向对象技术详解
2016/07/19 Python
python3.4用循环往mysql5.7中写数据并输出的实现方法
2017/06/20 Python
在Python中将函数作为另一个函数的参数传入并调用的方法
2019/01/22 Python
Python实现程序判断季节的代码示例
2019/01/28 Python
django认证系统实现自定义权限管理的方法
2019/08/28 Python
Python中 Global和Nonlocal的用法详解
2020/01/20 Python
澳大利亚最受欢迎的女士度假服装:Kabana Shop
2020/10/10 全球购物
应届生法律顾问求职信
2013/11/19 职场文书
节约用水演讲稿
2014/05/21 职场文书
2014年心理健康教育工作总结
2014/12/06 职场文书
医院保洁员岗位职责
2015/02/13 职场文书
三好学生主要事迹怎么写
2015/11/03 职场文书
Python-typing: 类型标注与支持 Any类型详解
2021/05/10 Python
面试官问我Mysql的存储引擎了解多少
2022/08/05 MySQL