Javascript浮点数乘积运算出现多位小数的解决方法


Posted in Javascript onFebruary 17, 2014

Javascript在进行浮点数的乘积运算,会出现多位小数的情况。

这是由于在运算的时候先把浮点数转化成二进制后进行运算,但是有的小数在二进制编码后出现无限循环,因而导致计算出现了误差,在其它变成语言中也有类似的问题。

原因解释参考自百度知道:

例如:求1038.1-1000
1038.1=10000001110.0001100110011001100110011001100110011001100.....
1000 =1111101000

1038.1转化为二进制是个无限循环小数,1100是循环节,只能取近似值,误差就是这里产生的 如果浏览器版本高,可以用toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。

解决方案:根据要保留的小数位数(如4),在计算乘积的时候先乘以(10^4),然后对计算结果除以(10^4),最后对结果取近似值Math.round

var m1 = 2232.00, 
percent = (10/100), 
total = percent*m1; 
alert(total);//223.20000000000002 total = Math.round(total*10)/10; 
alert(total);//223.2
Javascript 相关文章推荐
使用Java实现简单的server/client回显功能的方法介绍
May 03 Javascript
js正则表达式的使用详解
Jul 09 Javascript
调用DOM对象的focus使文本框获得焦点
Feb 19 Javascript
JavaScript实现N皇后问题算法谜题解答
Dec 29 Javascript
jQuery实现购物车计算价格功能的方法
Mar 25 Javascript
js判断手机号运营商的方法
Oct 23 Javascript
基于javascript实现按圆形排列DIV元素(一)
Dec 02 Javascript
javascript中数组(Array)对象和字符串(String)对象的常用方法总结
Dec 15 Javascript
js设置随机切换背景图片的简单实例
Nov 12 Javascript
Vue + Element-ui的下拉框el-select获取额外参数详解
Aug 14 Javascript
7个你应该知道的JS原生错误类型
Apr 29 Javascript
解决vue $http的get和post请求跨域问题
Jun 07 Vue.js
eclipse导入jquery包后报错的解决方法
Feb 17 #Javascript
jsp网页搜索结果中实现选中一行使其高亮
Feb 17 #Javascript
javascript向后台传送相同属性的参数即数组参数
Feb 17 #Javascript
jquery的ajax简单结构示例代码
Feb 17 #Javascript
toggle()隐藏问题的解决方法
Feb 17 #Javascript
Jquery获取和修改img的src值的方法
Feb 17 #Javascript
Jquery在指定DIV加载HTML示例代码
Feb 17 #Javascript
You might like
删除数组元素实用的PHP数组函数
2008/08/18 PHP
php 强制下载文件实现代码
2013/10/28 PHP
PHP数据库操作之基于Mysqli的数据库操作类库
2014/04/19 PHP
PHP合并数组+号和array_merge的区别
2015/06/25 PHP
WordPress中设置Post Type自定义文章类型的实例教程
2016/05/10 PHP
详解PHP神奇又有用的Trait
2019/03/25 PHP
ThinkPHP5&5.1实现验证码的生成、使用及点击刷新功能示例
2020/02/07 PHP
javascript实现修改微信分享的标题内容等
2014/12/11 Javascript
javascript定义类和类的实现实例详解
2015/12/01 Javascript
JavaScript中Object.prototype.toString方法的原理
2016/02/24 Javascript
JavaScript实现的CRC32函数示例
2016/11/23 Javascript
详解js树形控件—zTree使用总结
2016/12/28 Javascript
微信小程序图片轮播组件gallery slider使用方法详解
2018/01/31 Javascript
JavaScript实现无限级递归树的示例代码
2019/03/29 Javascript
前端面试知识点目录一览
2019/04/15 Javascript
在vue中使用eslint,配合vscode的操作
2020/11/09 Javascript
python 不关闭控制台的实现方法
2011/10/23 Python
Python中装饰器的一个妙用
2015/02/08 Python
python下载文件时显示下载进度的方法
2015/04/02 Python
Python 基础知识之字符串处理
2017/01/06 Python
Python利用字典将两个通讯录文本合并为一个文本实例
2018/01/16 Python
pandas值替换方法
2018/07/10 Python
深入浅析Python2.x和3.x版本的主要区别
2018/11/30 Python
python 画三维图像 曲面图和散点图的示例
2018/12/29 Python
python GUI库图形界面开发之PyQt5布局控件QHBoxLayout详细使用方法与实例
2020/03/06 Python
Django自关联实现多级联动查询实例
2020/05/19 Python
python中plt.imshow与cv2.imshow显示颜色问题
2020/07/16 Python
使用HTML5 Canvas绘制直线或折线等线条的方法讲解
2016/03/14 HTML / CSS
Stella McCartney官网:成衣、包袋、香水、内衣、童装及Adidas系列
2018/12/20 全球购物
机械工程师的岗位职责
2013/11/17 职场文书
保荐人的岗位职责
2013/11/19 职场文书
办公室副主任岗位职责
2013/11/25 职场文书
大学新闻系求职信
2014/06/03 职场文书
基层党建工作汇报材料
2014/08/15 职场文书
Python如何识别银行卡卡号?
2021/06/10 Python
微信小程序结合ThinkPHP5授权登陆后获取手机号
2021/11/23 PHP