关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
Python编程中的文件读写及相关的文件对象方法讲解
Jan 19 Python
python使用str & repr转换字符串
Oct 13 Python
Python实现动态图解析、合成与倒放
Jan 18 Python
pandas使用get_dummies进行one-hot编码的方法
Jul 10 Python
PyQt5显示GIF图片的方法
Jun 17 Python
Python之pymysql的使用小结
Jul 01 Python
Pyqt5自适应布局实例
Dec 13 Python
python实现密码强度校验
Mar 18 Python
Python中如何引入第三方模块
May 27 Python
用python实现学生管理系统
Jul 24 Python
python3美化表格数据输出结果的实现代码
Apr 14 Python
怎么用Python识别手势数字
Jun 07 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
十天学会php之第四天
2006/10/09 PHP
php中二分法查找算法实例分析
2016/09/22 PHP
基于PHP实现微信小程序客服消息功能
2019/08/12 PHP
js类后台管理菜单类-MenuSwitch
2007/09/12 Javascript
javascript innerText和innerHtml应用
2010/01/28 Javascript
BootstrapTable与KnockoutJS相结合实现增删改查功能【二】
2016/05/10 Javascript
jQuery实现表格隔行及滑动,点击时变色的方法【测试可用】
2016/08/20 Javascript
详解Javascript ES6中的箭头函数(Arrow Functions)
2016/08/24 Javascript
node.js版本管理工具n无效的原理和解决方法
2016/11/24 Javascript
详解AngularJS验证、过滤器、指令
2017/01/04 Javascript
angular项目中bootstrap-datetimepicker时间插件的使用示例
2018/03/15 Javascript
js+canvas实现滑动拼图验证码功能
2018/03/26 Javascript
javascript实现文件拖拽事件
2018/03/29 Javascript
基于rollup的组件库打包体积优化小结
2018/06/18 Javascript
详解vue 在移动端体验上的优化解决方案
2019/05/20 Javascript
vue如何限制只能输入正负数及小数
2019/07/04 Javascript
微信小程序自定义底部弹出框功能
2020/11/18 Javascript
最基础的Python的socket编程入门教程
2015/04/23 Python
python解决汉字编码问题:Unicode Decode Error
2017/01/19 Python
初探TensorFLow从文件读取图片的四种方式
2018/02/06 Python
Python实现的各种常见分布算法示例
2018/12/13 Python
Python 的字典(Dict)是如何存储的
2019/07/05 Python
Python操作Sqlite正确实现方法解析
2020/02/05 Python
Python 中的pygame安装与配置教程详解
2020/02/10 Python
Django实现从数据库中获取到的数据转换为dict
2020/03/27 Python
Python爬虫如何破解JS加密的Cookie
2020/11/19 Python
HTML5对比HTML4的主要改变和改进总结
2016/05/27 HTML / CSS
Book Depository欧盟:一家领先的国际图书零售商
2019/05/21 全球购物
全球精选男装和家居用品:Article
2020/04/13 全球购物
教师实习期自我鉴定
2013/10/06 职场文书
微信营销策划方案
2014/02/24 职场文书
毕业生如何写自荐信
2014/03/26 职场文书
计划生育证明书写要求
2014/09/17 职场文书
2016应届毕业生就业指导课心得体会
2016/01/15 职场文书
Python代码风格与编程习惯重要吗?
2021/06/03 Python
Java8利用Stream对列表进行去除重复的方法详解
2022/04/14 Java/Android