关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
Python urllib、urllib2、httplib抓取网页代码实例
May 09 Python
Python实现线程池代码分享
Jun 21 Python
Python中的默认参数详解
Jun 24 Python
举例讲解Python中的迭代器、生成器与列表解析用法
Mar 20 Python
Python的SQLalchemy模块连接与操作MySQL的基础示例
Jul 11 Python
Python多线程应用于自动化测试操作示例
Dec 06 Python
Python3.5内置模块之random模块用法实例分析
Apr 26 Python
Django对数据库进行添加与更新的例子
Jul 12 Python
django正续或者倒序查库实例
May 19 Python
python适合做数据挖掘吗
Jun 16 Python
python迷宫问题深度优先遍历实例
Jun 20 Python
PyTorch中的torch.cat简单介绍
Mar 17 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
PHP删除数组中的特定元素的代码
2012/06/28 PHP
PHP读取xml方法介绍
2013/01/12 PHP
smarty中常用方法实例总结
2015/08/07 PHP
人脸识别测颜值、测脸龄、测相似度微信接口
2016/04/07 PHP
php简单实现多语言切换的方法
2016/05/09 PHP
PHP处理二进制数据的实现方法
2016/06/13 PHP
PHP CURL实现模拟登陆并上传文件操作示例
2020/01/02 PHP
JS命名空间的另一种实现
2013/08/09 Javascript
完美解决IE低版本不支持call与apply的问题
2013/12/05 Javascript
AngularJs根据访问的页面动态加载Controller的解决方案
2015/02/04 Javascript
JavaScript对象参数的引用传递
2016/01/14 Javascript
如何在Angular.JS中接收并下载PDF
2016/11/26 Javascript
JS实现选定指定HTML元素对象中指定文本内容功能示例
2017/02/13 Javascript
Node.js 中使用 async 函数的方法
2017/11/20 Javascript
vue单个组件实现无限层级多选菜单功能
2018/04/10 Javascript
JS数组去重常用方法实例小结【4种方法】
2018/05/28 Javascript
vue路由缓存的几种实现方式小结
2020/02/02 Javascript
Vue中watch、computed、updated三者的区别及用法
2020/07/27 Javascript
vue vant中picker组件的使用
2020/11/03 Javascript
[43:32]Winstrike vs VGJ.S 2018国际邀请赛淘汰赛BO3 第一场 8.23
2018/08/24 DOTA
在 Django/Flask 开发服务器上使用 HTTPS
2014/07/03 Python
eclipse创建python项目步骤详解
2019/05/10 Python
python用for循环求和的方法总结
2019/07/08 Python
Django 自定义404 500等错误页面的实现
2020/03/08 Python
解决pycharm debug时界面下方不出现step等按钮及变量值的问题
2020/06/09 Python
Java如何基于wsimport调用wcf接口
2020/06/17 Python
Python实现图片查找轮廓、多边形拟合、最小外接矩形代码
2020/07/14 Python
python 两种方法删除空文件夹
2020/09/29 Python
解决H5的a标签的download属性下载service上的文件出现跨域问题
2019/07/16 HTML / CSS
J2EE中常用的名词进行解释
2015/11/09 面试题
大学生活学习的自我评价
2013/12/03 职场文书
销售心得体会
2014/01/02 职场文书
青年文明号复核材料
2014/02/11 职场文书
北体毕业生求职信
2014/02/28 职场文书
公司请假条范文
2014/04/11 职场文书
投诉书范文
2015/07/02 职场文书