浅析js中的浮点型运算问题


Posted in Javascript onJanuary 06, 2014

js中浮点型是如何运算的呢?

例如:var a=0.69;

我想得到6.9 直接这样写 var c=a*10;

alert(c);   得到结果是:6.8999999999999995

到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法:

方法一:有js自定义函数

<script>
//加法函数,用来得到精确的加法结果 
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
//调用:accAdd(arg1,arg2) 
//返回值:arg1加上arg2的精确结果 
function accAdd(arg1,arg2){ 
var r1,r2,m; 
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
m=Math.pow(10,Math.max(r1,r2)) 
return (arg1*m+arg2*m)/m 
} 
//给Number类型增加一个add方法,调用起来更加方便。 
Number.prototype.add = function (arg){ 
return accAdd(arg,this); 
}
//加法函数,用来得到精确的加法结果 
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 
//调用:accAdd(arg1,arg2) 
//返回值:arg1加上arg2的精确结果 
function accSub(arg1,arg2){
    var r1,r2,m,n;
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    m=Math.pow(10,Math.max(r1,r2));
    //last modify by deeka
    //动态控制精度长度
    n=(r1>=r2)?r1:r2;
    return ((arg1*m-arg2*m)/m).toFixed(n);
}
//除法函数,用来得到精确的除法结果 
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 
//调用:accDiv(arg1,arg2) 
//返回值:arg1除以arg2的精确结果 
function accDiv(arg1,arg2){ 
var t1=0,t2=0,r1,r2; 
try{t1=arg1.toString().split(".")[1].length}catch(e){} 
try{t2=arg2.toString().split(".")[1].length}catch(e){} 
with(Math){ 
r1=Number(arg1.toString().replace(".","")) 
r2=Number(arg2.toString().replace(".","")) 
return (r1/r2)*pow(10,t2-t1); 
} 
} 
//给Number类型增加一个div方法,调用起来更加方便。 
Number.prototype.div = function (arg){ 
return accDiv(this, arg); 
} 
//乘法函数,用来得到精确的乘法结果 
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 
//调用:accMul(arg1,arg2) 
//返回值:arg1乘以arg2的精确结果 
function accMul(arg1,arg2) 
{ 
var m=0,s1=arg1.toString(),s2=arg2.toString(); 
try{m+=s1.split(".")[1].length}catch(e){} 
try{m+=s2.split(".")[1].length}catch(e){} 
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
} 
//给Number类型增加一个mul方法,调用起来更加方便。 
Number.prototype.mul = function (arg){ 
return accMul(arg, this); 
} 
var a=0.69;
var b=10;
alert(a*b);//6.8999999999999995
alert((a*100)/10);
</script>

直接调用函数就可以。

方法二:如果在知道小数位个数的前提下,可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数),再进行运算操作,这样就能得到正确的结果了

alert(11*22.9);//得到251.89999999999998
alert(11*(22.9*10)/10);//得到251.9

Javascript 相关文章推荐
基于jQuery的倒计时插件代码
May 07 Javascript
Node.js与PHP、Python的字符处理性能对比
Jul 06 Javascript
封装好的js判断操作系统与浏览器代码分享
Jan 09 Javascript
学习javascript面向对象 理解javascript原型和原型链
Jan 04 Javascript
javascript和jQuery中的AJAX技术详解【包含AJAX各种跨域技术】
Dec 15 Javascript
Bootstrap Scrollspy源码学习
Mar 02 Javascript
获取url中用&amp;隔开的参数实例(分享)
May 28 Javascript
JavaScript学习总结之正则的元字符和一些简单的应用
Jun 30 Javascript
vue router-link传参以及参数的使用实例
Nov 10 Javascript
vscode中vue-cli项目es-lint的配置方法
Jul 30 Javascript
解决vue自定义全局消息框组件问题
Nov 22 Javascript
vue实现公告栏文字上下滚动效果的示例代码
Jun 16 Javascript
js中浮点型运算BUG的解决方法说明
Jan 06 #Javascript
Jquery操作radio的简单实例
Jan 06 #Javascript
jQuery选择器全面总结
Jan 06 #Javascript
JavaScript定义类的几种方式总结
Jan 06 #Javascript
javascript函数定义的几种区别小结
Jan 06 #Javascript
javascript 用函数语句和表达式定义函数的区别详解
Jan 06 #Javascript
js形成页面的一种遮罩效果实例代码
Jan 04 #Javascript
You might like
咖啡界又出新概念,无需咖啡豆的分子咖啡
2021/03/03 咖啡文化
php中通过Ajax如何实现异步文件上传的代码实例
2011/05/07 PHP
php生成随机字符串可指定纯数字、纯字母或者混合的
2014/04/18 PHP
PHP和javascript常用正则表达式及用法实例
2014/07/01 PHP
php实现的常见排序算法汇总
2014/09/08 PHP
php获取QQ头像并显示的方法
2014/12/23 PHP
php模拟用户自动在qq空间发表文章的方法
2015/01/07 PHP
PHP 闭包详解及实例代码
2016/09/28 PHP
thinkphp5.0自定义验证规则使用方法
2017/11/16 PHP
基于PHP实现用户在线状态检测
2020/11/10 PHP
最佳JS代码编写的14条技巧
2011/01/09 Javascript
jquery调用wcf并展示出数据的方法
2011/07/07 Javascript
js从10种颜色中随机取色实现每次取出不同的颜色
2013/10/23 Javascript
Javascript检查图片大小不要让大图片撑破页面
2014/11/04 Javascript
node.js中的path.join方法使用说明
2014/12/08 Javascript
bootstarp modal框居中显示的实现代码
2017/02/18 Javascript
NodeJS处理Express中异步错误
2017/03/26 NodeJs
Angular实现一个简单的多选复选框的弹出框指令实例
2017/04/25 Javascript
Angular.Js之Scope作用域的学习教程
2017/04/27 Javascript
Javascript中将变量转换为字符串的三种方法
2017/09/19 Javascript
通过js动态创建标签,并设置属性方法
2018/02/24 Javascript
vue兄弟组件传递数据的实例
2018/09/06 Javascript
vue-for循环嵌套操作示例
2019/01/28 Javascript
node-red File读取好保存实例讲解
2019/09/11 Javascript
微信小程序实现滚动Tab选项卡
2020/11/16 Javascript
jQuery实现电梯导航模块
2020/12/22 jQuery
Python 3.7新功能之dataclass装饰器详解
2018/04/21 Python
Python多线程threading模块用法实例分析
2019/05/22 Python
python通过链接抓取网站详解
2019/11/20 Python
Python获取对象属性的几种方式小结
2020/03/12 Python
使用anaconda安装pytorch的实现步骤
2020/09/03 Python
HTML5 embed 标签使用方法介绍
2013/08/13 HTML / CSS
怎样声明子类
2013/07/02 面试题
个人四风问题对照检查材料
2014/10/01 职场文书
沂蒙六姐妹观后感
2015/06/08 职场文书
springboot应用服务启动事件的监听实现
2022/04/06 Java/Android