关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
Python读写Excel文件的实例
Nov 01 Python
一文总结学习Python的14张思维导图
Oct 17 Python
Python实现程序判断季节的代码示例
Jan 28 Python
python 利用浏览器 Cookie 模拟登录的用户访问知乎的方法
Jul 11 Python
python sorted方法和列表使用解析
Nov 18 Python
python使用pygame实现笑脸乒乓球弹珠球游戏
Nov 25 Python
pytorch 改变tensor尺寸的实现
Jan 03 Python
tensorflow使用freeze_graph.py将ckpt转为pb文件的方法
Apr 22 Python
python Gabor滤波器讲解
Oct 26 Python
python 爬虫爬取京东ps4售卖情况
Dec 18 Python
Python爬虫爬取全球疫情数据并存储到mysql数据库的步骤
Mar 29 Python
如何获取numpy array前N个最大值
May 14 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
php生成静态html页面的方法(2种方法)
2015/09/14 PHP
Windows平台实现PHP连接SQL Server2008的方法
2017/07/26 PHP
thinkPHP5.1框架中Request类四种调用方式示例
2019/08/03 PHP
JavaScript asp.net 获取当前超链接中的文本
2009/04/14 Javascript
JavaScript弹簧振子超简洁版 完全符合能量守恒,胡克定理
2009/10/25 Javascript
javascript 图片裁剪技巧解读
2012/11/15 Javascript
json字符串之间的相互转换示例代码
2014/08/21 Javascript
基于CSS3和jQuery实现跟随鼠标方位的Hover特效
2016/07/25 Javascript
jQuery简单实现iframe的高度根据页面内容自适应的方法
2016/08/01 Javascript
JavaScript如何实现图片懒加载(lazyload) 提高用户体验(增强版)
2016/11/30 Javascript
JavaScript比较两个数组的内容是否相同(推荐)
2017/05/02 Javascript
解决vue2.0动态绑定图片src属性值初始化时报错的问题
2018/03/14 Javascript
JavaScript作用域、闭包、对象与原型链概念及用法实例总结
2018/08/20 Javascript
jQuery实现弹出层效果
2019/12/10 jQuery
[10:21]DOTA2-DPC中国联赛 正赛 PSG.LGD vs Aster 选手采访
2021/03/11 DOTA
python uuid模块使用实例
2015/04/08 Python
详解python中的文件与目录操作
2017/07/11 Python
使用Python设计一个代码统计工具
2018/04/04 Python
Python中正反斜杠(‘/’和‘\’)的意义与用法
2019/08/12 Python
Python彻底删除文件夹及其子文件方式
2019/12/23 Python
Python Numpy 控制台完全输出ndarray的实现
2020/02/19 Python
什么是Python变量作用域
2020/06/03 Python
css3 仿写阿里云水纹效果的示例代码
2018/02/10 HTML / CSS
亚洲独特体验旅游专家:eOasia
2018/08/15 全球购物
英国现代家具和照明购物网站:Heal’s
2019/10/30 全球购物
设备动力科岗位职责范本
2014/02/23 职场文书
端午节活动策划方案
2014/03/09 职场文书
优秀求职信
2014/05/29 职场文书
应届生找工作求职信
2014/06/24 职场文书
个人遵守党的政治纪律情况对照检查材料思想汇报
2014/09/25 职场文书
2015年试用期自我评价范文
2015/03/10 职场文书
2015年世界无车日活动总结
2015/03/23 职场文书
国王的演讲观后感
2015/06/03 职场文书
2015年酒店销售部工作总结
2015/07/24 职场文书
大学学生会竞选稿
2015/11/19 职场文书
mybatis使用oracle进行添加数据的方法
2021/04/27 Oracle