详解JavaScript 浮点数运算的精度问题


Posted in Javascript onJuly 23, 2019

问题描述

在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 。在一些特殊的数值表示中,例如金额,这样看上去有点变扭,但是至少值是正确了。然而要命的是,当浮点数做数学运算的时候,你经常会发现一些问题,举几个例子:

// 加法 =====================
// 0.1 + 0.2 = 0.30000000000000004
// 0.7 + 0.1 = 0.7999999999999999
// 0.2 + 0.4 = 0.6000000000000001
// 2.22 + 0.1 = 2.3200000000000003
 
// 减法 =====================
// 1.5 - 1.2 = 0.30000000000000004
// 0.3 - 0.2 = 0.09999999999999998
 
// 乘法 =====================
// 19.9 * 100 = 1989.9999999999998
// 19.9 * 10 * 10 = 1990
// 1306377.64 * 100 = 130637763.99999999
// 1306377.64 * 10 * 10 = 130637763.99999999
// 0.7 * 180 = 125.99999999999999
// 9.7 * 100 = 969.9999999999999
// 39.7 * 100 = 3970.0000000000005
 
// 除法 =====================
// 0.3 / 0.1 = 2.9999999999999996
// 0.69 / 10 = 0.06899999999999999

问题的原因

似乎是不可思议。小学生都会算的题目,JavaScript 不会?我们来看看其真正的原因。

JavaScript 里的数字是采用 IEEE 754 标准的 64 位双精度浮点数。该规范定义了浮点数的格式,对于64位的浮点数在内存中的表示,最高的1位是符号位,接着的11位是指数,剩下的52位为有效数字,具体:

  1. 第0位:符号位, s 表示 ,0表示正数,1表示负数;
  2. 第1位到第11位:储存指数部分, e 表示 ;
  3. 第12位到第63位:储存小数部分(即有效数字),f 表示,

如图:

详解JavaScript 浮点数运算的精度问题

符号位决定了一个数的正负,指数部分决定了数值的大小,小数部分决定了数值的精度。 IEEE 754规定,有效数字第一位默认总是1,不保存在64位浮点数之中。也就是说,有效数字总是1.xx…xx的形式,其中xx..xx的部分保存在64位浮点数之中,最长可能为52位。因此,JavaScript提供的有效数字最长为53个二进制位(64位浮点的后52位+有效数字第一位的1)。

计算过程

比如在 JavaScript 中计算 0.1 + 0.2时,到底发生了什么呢?

首先,十进制的0.1和0.2都会被转换成二进制,但由于浮点数用二进制表达时是无穷的,例如。

0.1 -> 0.0001100110011001...(无限)
0.2 -> 0.0011001100110011...(无限)

IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持 53 位二进制位,所以两者相加之后得到二进制为:

0.0100110011001100110011001100110011001100110011001100

因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了 0.30000000000000004。所以在进行算术计算时会产生误差。

整数的精度问题

在 Javascript 中,整数精度同样存在问题,先来看看问题:

console.log(19571992547450991); //=> 19571992547450990
console.log(19571992547450991===19571992547450992); //=> true

同样的原因,在 JavaScript 中 Number类型统一按浮点数处理,整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。

当然这个问题并不只是在 Javascript 中才会出现,几乎所有的编程语言都采用了 IEEE-745 浮点数表示法,任何使用二进制浮点数的编程语言都会有这个问题,只不过在很多其他语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

解决方案

上面说了这么多问题和原因,这里给出一些解决方案。

类库

通常这种对精度要求高的计算都应该交给后端去计算和存储,因为后端有成熟的库来解决这种计算问题。前端也有几个不错的类库:

Math.js

Math.js 是专门为 JavaScript 和 Node.js 提供的一个广泛的数学库。它具有灵活的表达式解析器,支持符号计算,配有大量内置函数和常量,并提供集成解决方案来处理不同的数据类型

像数字,大数字(超出安全数的数字),复数,分数,单位和矩阵。 功能强大,易于使用。

官网:http://mathjs.org/

GitHub:https://github.com/josdejong/mathjs

decimal.js

为 JavaScript 提供十进制类型的任意精度数值。

官网:http://mikemcl.github.io/decimal.js/

GitHub:https://github.com/MikeMcl/decimal.js

big.js

官网:http://mikemcl.github.io/big.js

GitHub:https://github.com/MikeMcl/big.js/

这几个类库帮我们解决很多这类问题,不过通常我们前端做这类运算通常只用于表现层,应用并不是很多。所以很多时候,一个函数能解决的问题不需要引用一个类库来解决。

下面介绍各个更加简单的解决方案。

整数表示

对于整数,我们可以通过用String类型的表示来取值或传值,否则会丧失精度。

格式化数字、金额、保留几位小数等

如果只是格式化数字、金额、保留几位小数等可以查看这里 https://3water.com/article/165993.htm

浮点数运算

toFixed() 方法

浮点数运算的解决方案有很多,这里给出一种目前常用的解决方案, 在判断浮点数运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入。

toFixed() 方法使用定点表示法来格式化一个数,会对结果进行四舍五入。语法为:

numObj.toFixed(digits)

参数 digits 表示小数点后数字的个数;介于 0 到 20 (包括)之间,实现环境可能支持更大范围。如果忽略该参数,则默认为 0。

返回一个数值的字符串表现形式,不使用指数记数法,而是在小数点后有 digits 位数字。该数值在必要时进行四舍五入,另外在必要时会用 0 来填充小数部分,以便小数部分有指定的位数。 如果数值大于 1e+21,该方法会简单调用 Number.prototype.toString()并返回一个指数记数法格式的字符串。

特别注意:toFixed() 返回一个数值的字符串表现形式。

具体可以查看MDN中的说明,那么我们可以这样解决精度问题:

parseFloat((数学表达式).toFixed(digits)); // toFixed() 精度参数须在 0 与20 之间
// 运行
parseFloat((1.0 - 0.9).toFixed(10)) // 结果为 0.1 
parseFloat((0.3 / 0.1).toFixed(10)) // 结果为 3 
parseFloat((9.7 * 100).toFixed(10)) // 结果为 970 
parseFloat((2.22 + 0.1).toFixed(10)) // 结果为 2.32

在老版本的IE浏览器(IE 6,7,8)中,toFixed()方法返回值不一定准确。所以这个方法以前很少用。以至于网上搜索出来的结果大都是下面这些方法。

还有一些其他的解决方案,简单的说需要将浮点数转换字符串,分隔成为整数部分和小数部分,小数部分再转换为整数,计算结果后,再转换为浮点数。这过程有点复杂…,网上找一下:

加法函数

/**
 ** 加法函数,用来得到精确的加法结果
 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 ** 调用:accAdd(arg1,arg2)
 ** 返回值:arg1加上arg2的精确结果
 **/
function accAdd(arg1, arg2) {
 var r1, r2, m, c;
 try {
  r1 = arg1.toString().split(".")[1].length;
 }
 catch (e) {
  r1 = 0;
 }
 try {
  r2 = arg2.toString().split(".")[1].length;
 }
 catch (e) {
  r2 = 0;
 }
 c = Math.abs(r1 - r2);
 m = Math.pow(10, Math.max(r1, r2));
 if (c > 0) {
  var cm = Math.pow(10, c);
  if (r1 > r2) {
   arg1 = Number(arg1.toString().replace(".", ""));
   arg2 = Number(arg2.toString().replace(".", "")) * cm;
  } else {
   arg1 = Number(arg1.toString().replace(".", "")) * cm;
   arg2 = Number(arg2.toString().replace(".", ""));
  }
 } else {
  arg1 = Number(arg1.toString().replace(".", ""));
  arg2 = Number(arg2.toString().replace(".", ""));
 }
 return (arg1 + arg2) / m;
}
 
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg) {
 return accAdd(arg, this);
};

减法函数

/**
 ** 减法函数,用来得到精确的减法结果
 ** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 ** 调用:accSub(arg1,arg2)
 ** 返回值:arg1加上arg2的精确结果
 **/
function accSub(arg1, arg2) {
 var r1, r2, m, n;
 try {
  r1 = arg1.toString().split(".")[1].length;
 }
 catch (e) {
  r1 = 0;
 }
 try {
  r2 = arg2.toString().split(".")[1].length;
 }
 catch (e) {
  r2 = 0;
 }
 m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
 n = (r1 >= r2) ? r1 : r2;
 return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
 
// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.sub = function (arg) {
 return accMul(arg, this);
};

乘法函数

/**
 ** 乘法函数,用来得到精确的乘法结果
 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 ** 调用:accMul(arg1,arg2)
 ** 返回值:arg1乘以 arg2的精确结果
 **/
function accMul(arg1, arg2) {
 var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
 try {
  m += s1.split(".")[1].length;
 }
 catch (e) {
 }
 try {
  m += s2.split(".")[1].length;
 }
 catch (e) {
 }
 return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
 
// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg) {
 return accMul(arg, this);
};

除法函数

/** 
 ** 除法函数,用来得到精确的除法结果
 ** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 ** 调用:accDiv(arg1,arg2)
 ** 返回值:arg1除以arg2的精确结果
 **/
function accDiv(arg1, arg2) {
 var t1 = 0, t2 = 0, r1, r2;
 try {
  t1 = arg1.toString().split(".")[1].length;
 }
 catch (e) {
 }
 try {
  t2 = arg2.toString().split(".")[1].length;
 }
 catch (e) {
 }
 with (Math) {
  r1 = Number(arg1.toString().replace(".", ""));
  r2 = Number(arg2.toString().replace(".", ""));
  return (r1 / r2) * pow(10, t2 - t1);
 }
}
 
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg) {
 return accDiv(this, arg);
};

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
js 数组操作代码集锦
Apr 28 Javascript
Jquery简单分页实现方法
Jul 24 Javascript
15位和18位身份证JS校验的简单实例
Jul 18 Javascript
js实现按钮控制带有停顿效果的图片滚动
Aug 30 Javascript
jquery仿ps颜色拾取功能
Mar 08 Javascript
详解JavaScript对象的深浅复制
Mar 30 Javascript
基于zepto.js实现登录界面
Oct 09 Javascript
vue基于mint-ui的城市选择3级联动的示例
Oct 25 Javascript
微信小程序实现列表下拉刷新上拉加载
Jul 29 Javascript
JS使用对象的defineProperty进行变量监控操作示例
Feb 02 Javascript
js实现登录拖拽窗口
Feb 10 Javascript
JavaScript实现京东快递单号查询
Nov 30 Javascript
前端插件之Bootstrap Dual Listbox使用教程
Jul 23 #Javascript
JavaScript 格式化数字、金额、千分位、保留几位小数、舍入舍去
Jul 23 #Javascript
vscode vue 文件模板的配置方法
Jul 23 #Javascript
Vue中对iframe实现keep alive无刷新的方法
Jul 23 #Javascript
jQuery Ajax async=>false异步改为同步时,解决导致浏览器假死的问题
Jul 22 #jQuery
这应该是最详细的响应式系统讲解了
Jul 22 #Javascript
20道JS原理题助你面试一臂之力(必看)
Jul 22 #Javascript
You might like
PHP开发环境配置(MySQL数据库安装图文教程)
2010/04/28 PHP
php stream_get_meta_data返回值
2013/09/29 PHP
PHP页面实现定时跳转的方法
2014/10/31 PHP
PHP 快速排序算法详解
2014/11/10 PHP
Laravel中GraphQL接口请求频率实战记录
2020/09/01 PHP
js解析与序列化json数据(一)json.stringify()的基本用法
2013/02/01 Javascript
js同比例缩放图片的小例子
2013/10/30 Javascript
JQuery中使用Ajax赋值给全局变量异常的解决方法
2014/01/10 Javascript
JS动态加载当前时间的方法
2015/02/09 Javascript
jQuery+AJAX实现网页无刷新上传
2015/02/22 Javascript
详解基于Bootstrap扁平化的后台框架Ace
2015/11/27 Javascript
原生JS实现旋转木马式图片轮播插件
2016/04/25 Javascript
AngularJs学习第五篇从Controller控制器谈谈$scope作用域
2016/06/08 Javascript
nodejs爬虫遇到的乱码问题汇总
2017/04/07 NodeJs
微信通过页面(H5)直接打开本地app的解决方法
2017/09/09 Javascript
JSONP原理及应用实例详解
2018/09/13 Javascript
详解vue数组遍历方法forEach和map的原理解析和实际应用
2018/11/15 Javascript
js实现京东秒杀倒计时功能
2019/01/21 Javascript
Python查询阿里巴巴关键字排名的方法
2015/07/08 Python
浅析Python中的多条件排序实现
2016/06/07 Python
Python SQLite3数据库日期与时间常见函数用法分析
2017/08/14 Python
快速入门python学习笔记
2017/12/06 Python
使用apidocJs快速生成在线文档的实例讲解
2018/02/07 Python
Django框架模型简单介绍与使用分析
2019/07/18 Python
使用卷积神经网络(CNN)做人脸识别的示例代码
2020/03/27 Python
python简单实现9宫格图片实例
2020/09/03 Python
Python fileinput模块如何逐行读取多个文件
2020/10/05 Python
详解python中的异常捕获
2020/12/15 Python
pytorch 把图片数据转化成tensor的操作
2021/03/04 Python
化石印度尼西亚在线商店:Fossil Indonesia
2019/03/11 全球购物
French Connection官网:女装、男装及家居用品
2019/03/18 全球购物
研究生自我鉴定范文
2013/10/30 职场文书
企业党建工作汇报材料
2014/08/19 职场文书
2016年大学生实习单位评语
2015/12/01 职场文书
iPhone13 Pro外观确定,升级4800万镜头,4月20日发新品
2021/04/15 数码科技
SQL实现LeetCode(177.第N高薪水)
2021/08/04 MySQL