js数字舍入误差以及解决方法(必看篇)


Posted in Javascript onFebruary 28, 2017

1、起因:

js数字舍入误差以及解决方法(必看篇)

返回结果是true。

2、原因:计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit。

3、解决方法

(1)toFixed(),存在兼容性(chrome)

js数字舍入误差以及解决方法(必看篇)

(2)比较稳妥方法(数字如果过大,也会有误差):

*JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。  大于 9007199254740992 的可能会丢失精度

function round(num,d){

//Step1:将num放大10的d次方倍

num*=Math.pow(10,d);

//Step2:对num四舍五入取整

num = Math.round(num);

//Step:返回num缩小10的d次方倍,获得最终结果

return num/Math.round(10,d);

}

console.log(round(123.456)); //123.46

以上这篇js数字舍入误差以及解决方法(必看篇)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
Ajax+Json 级联菜单实现代码
Oct 27 Javascript
jQuery不兼容input的change事件问题解决过程
Dec 05 Javascript
JavaScript中的getTime()方法使用详解
Jun 10 Javascript
jQuery实现的fixedMenu下拉菜单效果代码
Aug 24 Javascript
jQuery插件之Tocify动态节点目录菜单生成器附源码下载
Jan 08 Javascript
Bootstrap字体图标无法正常显示的解决方法
Oct 08 Javascript
微信小程序 图片绝对定位(背景图片)
Apr 05 Javascript
AngularJS 限定$scope的范围实例详解
Jun 23 Javascript
JavaScript判断日期时间差的实例代码
Mar 01 Javascript
angularJS自定义directive之带参方法传递详解
Oct 09 Javascript
Vue.js实现tab切换效果
Jul 24 Javascript
JS代码实现页面切换效果
Jan 10 Javascript
JS实现浏览器打印、打印预览示例
Feb 28 #Javascript
JS基于面向对象实现的多个倒计时器功能示例
Feb 28 #Javascript
js中删除数组中的某一元素实例(无下标时)
Feb 28 #Javascript
jQuery图片切换动画效果
Feb 28 #Javascript
jQuery 判断元素整理汇总
Feb 28 #Javascript
jQuery倒计时代码(超简单)
Feb 27 #Javascript
js实现图片左右滚动效果
Feb 27 #Javascript
You might like
PHP生成和获取XML格式数据的方法
2016/03/04 PHP
Symfony2中被遗弃的getRequest()方法分析
2016/03/17 PHP
PHP获取指定日期是星期几的实现方法
2016/11/30 PHP
thinkphp5 migrate数据库迁移工具
2018/02/20 PHP
ThinkPHP5.1框架数据库链接和增删改查操作示例
2019/08/03 PHP
PHP常量DIRECTORY_SEPARATOR原理及用法解析
2020/11/10 PHP
Javascript中的var_dump函数实现代码
2009/09/07 Javascript
jQuery 创建Dom元素
2010/05/07 Javascript
js跑步算法的实现代码
2013/12/04 Javascript
js函数调用的方式
2014/05/06 Javascript
对JavaScript客户端应用编程的一些建议
2015/06/24 Javascript
JS添加或修改控件的样式(Class)实现方法
2016/10/15 Javascript
详解获取jq ul第一个li定位的四种解决方案
2016/11/23 Javascript
jQuery validate 验证radio实例
2017/03/01 Javascript
input type=file 选择图片并且实现预览效果的实例
2017/10/26 Javascript
vue项目前端知识点整理【收藏】
2019/05/13 Javascript
python采集博客中上传的QQ截图文件
2014/07/18 Python
Python实现屏幕截图的两种方式
2018/02/05 Python
python调用百度REST API实现语音识别
2018/08/30 Python
便捷提取python导入包的属性方法
2018/10/15 Python
Python两个字典键同值相加的几种方法
2019/03/05 Python
Python实现定制自动化业务流量报表周报功能【XlsxWriter模块】
2019/03/11 Python
Python学习笔记之文件的读写操作实例分析
2019/08/07 Python
python FTP批量下载/删除/上传实例
2019/12/22 Python
Python基于Tensor FLow的图像处理操作详解
2020/01/15 Python
全网首秀之Pycharm十大实用技巧(推荐)
2020/04/27 Python
Python 如何操作 SQLite 数据库
2020/08/17 Python
canvas实现圆绘制的示例代码
2019/09/11 HTML / CSS
什么是Assembly(程序集)
2014/09/14 面试题
外国语学院毕业生自荐信
2013/10/28 职场文书
财务部副经理岗位职责
2014/03/14 职场文书
知识竞赛主持词
2014/03/26 职场文书
房屋转让协议书范本
2014/04/11 职场文书
医学生求职自荐书
2014/06/12 职场文书
老兵退伍感言
2015/08/03 职场文书
在虚拟机中安装windows server 2008的图文教程
2022/06/28 Servers