js数字舍入误差以及解决方法(必看篇)


Posted in Javascript onFebruary 28, 2017

1、起因:

js数字舍入误差以及解决方法(必看篇)

返回结果是true。

2、原因:计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit。

3、解决方法

(1)toFixed(),存在兼容性(chrome)

js数字舍入误差以及解决方法(必看篇)

(2)比较稳妥方法(数字如果过大,也会有误差):

*JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。  大于 9007199254740992 的可能会丢失精度

function round(num,d){

//Step1:将num放大10的d次方倍

num*=Math.pow(10,d);

//Step2:对num四舍五入取整

num = Math.round(num);

//Step:返回num缩小10的d次方倍,获得最终结果

return num/Math.round(10,d);

}

console.log(round(123.456)); //123.46

以上这篇js数字舍入误差以及解决方法(必看篇)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
JS拖动技术 关于setCapture使用
Dec 09 Javascript
详细解密jsonp跨域请求
Apr 15 Javascript
基于jQuery实现文字打印动态效果
Apr 21 jQuery
ReactJs实现树形结构的数据显示的组件的示例
Aug 18 Javascript
JS对象序列化成json数据和json数据转化为JS对象的代码
Aug 23 Javascript
使用veloticy-ui生成文字动画效果
Feb 08 Javascript
layer弹出层 iframe层去掉滚动条的实例代码
Aug 17 Javascript
RequireJS用法简单示例
Aug 20 Javascript
Angular项目如何升级至Angular6步骤全纪录
Sep 03 Javascript
详解如何用VUE写一个多用模态框组件模版
Sep 27 Javascript
详解js模板引擎art template数组渲染的方法
Oct 09 Javascript
js实现的订阅发布者模式简单示例
Mar 14 Javascript
JS实现浏览器打印、打印预览示例
Feb 28 #Javascript
JS基于面向对象实现的多个倒计时器功能示例
Feb 28 #Javascript
js中删除数组中的某一元素实例(无下标时)
Feb 28 #Javascript
jQuery图片切换动画效果
Feb 28 #Javascript
jQuery 判断元素整理汇总
Feb 28 #Javascript
jQuery倒计时代码(超简单)
Feb 27 #Javascript
js实现图片左右滚动效果
Feb 27 #Javascript
You might like
真正的ZIP文件操作类(php)
2007/07/21 PHP
将数组写入txt文件 var_export
2009/04/21 PHP
Laravel 微信小程序后端实现用户登录的示例代码
2019/11/26 PHP
PHP7 其他修改
2021/03/09 PHP
JS是否可以跨文件同时控制多个iframe页面的应用技巧
2007/12/16 Javascript
再谈javascript 动态添加样式规则 W3C校检
2009/12/25 Javascript
在javascript中对于DOM的加强
2013/04/11 Javascript
往光标所在位置插入值的js代码
2013/09/22 Javascript
node.js解决获取图片真实文件类型的问题
2014/12/20 Javascript
jQuery绑定事件监听bind和移除事件监听unbind用法实例详解
2016/01/19 Javascript
JavaScript html5 canvas绘制时钟效果
2016/03/01 Javascript
JS判断图片是否加载完成方法汇总(最新版)
2016/05/13 Javascript
学好js,这些js函数概念一定要知道【推荐】
2017/01/19 Javascript
基于Vue2.0+ElementUI实现表格翻页功能
2017/10/23 Javascript
解决Vue中 父子传值 数据丢失问题
2019/08/27 Javascript
[16:01]夜魇凡尔赛茶话会 第二期01:你比划我猜
2021/03/11 DOTA
Python抓取Discuz!用户名脚本代码
2013/12/30 Python
Python实现的生成格雷码功能示例
2018/01/24 Python
使用apidocJs快速生成在线文档的实例讲解
2018/02/07 Python
Python即时网络爬虫项目启动说明详解
2018/02/23 Python
Python实现堡垒机模式下远程命令执行操作示例
2019/05/09 Python
python做反被爬保护的方法
2019/07/01 Python
python中的反斜杠问题深入讲解
2019/08/12 Python
python 浮点数四舍五入需要注意的地方
2020/08/18 Python
印度在线购物网站:Paytmmall
2019/07/24 全球购物
小学音乐教学反思
2014/02/05 职场文书
平安建设工作方案
2014/06/02 职场文书
理财计划书
2014/08/14 职场文书
2014年教师节演讲稿
2014/09/03 职场文书
2014年大堂经理工作总结
2014/11/21 职场文书
2015年出纳年终工作总结
2015/05/14 职场文书
2016小学教师读书心得体会
2016/01/13 职场文书
九年级历史教学反思
2016/02/19 职场文书
2016年感恩母亲节活动总结
2016/04/01 职场文书
创业计划书之牛肉汤快餐店
2019/10/08 职场文书
Python 详解通过Scrapy框架实现爬取CSDN全站热榜标题热词流程
2021/11/11 Python