关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
Python的一些用法分享
Oct 07 Python
下载安装setuptool和pip linux安装pip    
Jan 24 Python
Python注释详解
Jun 01 Python
Python实现自动登录百度空间的方法
Jun 10 Python
详谈python read readline readlines的区别
Sep 22 Python
使用Python爬了4400条淘宝商品数据,竟发现了这些“潜规则”
Mar 23 Python
Python解决两个整数相除只得到整数部分的实例
Nov 10 Python
Django后台admin的使用详解
Jul 08 Python
Python的缺点和劣势分析
Nov 19 Python
python 实现将list转成字符串,中间用空格隔开
Dec 25 Python
手把手教你将Flask应用封装成Docker服务的实现
Aug 19 Python
Python+Matplotlib+LaTeX玩转数学公式
Feb 24 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
php循环检测目录是否存在并创建(循环创建目录)
2011/01/06 PHP
PHP提示Notice: Undefined variable的解决办法
2012/11/24 PHP
Javascript 个人笔记(没有整理,很乱)
2007/07/07 Javascript
JavaScript 高级语法介绍
2009/06/15 Javascript
js、css、img等浏览器缓存问题的2种解决方案
2013/10/23 Javascript
MyEclipse取消验证Js的两种方法
2013/11/14 Javascript
检测一个函数是否是JavaScript原生函数的小技巧
2015/03/13 Javascript
使用C++为node.js写扩展模块
2015/04/22 Javascript
jquery地址栏链接与a标签链接匹配之特效代码总结
2015/08/24 Javascript
理解javascript中try...catch...finally
2015/12/25 Javascript
Jquery 整理元素选取、常用方法一览表
2016/11/26 Javascript
微信小程序 简单教程实例详解
2017/01/13 Javascript
微信小程序 标签传入数据
2017/05/08 Javascript
vue-router路由与页面间导航实例解析
2017/11/07 Javascript
400多行Python代码实现了一个FTP服务器
2012/05/10 Python
python 列表降维的实例讲解
2018/06/28 Python
python opencv人脸检测提取及保存方法
2018/08/03 Python
Python 实现Windows开机运行某软件的方法
2018/10/14 Python
Django用户认证系统 User对象解析
2019/08/02 Python
python实现超市商品销售管理系统
2019/10/25 Python
Python: 传递列表副本方式
2019/12/19 Python
python实现录制全屏和选择区域录屏功能
2021/02/05 Python
CSS3+font字体文件实现圆形半透明菜单具体步骤(图解)
2013/06/03 HTML / CSS
英国第一蛋白粉品牌:Myprotein
2016/09/14 全球购物
Marc Jacobs官方网站:美国奢侈品牌
2017/08/29 全球购物
波兰快递服务:Globkurier.pl
2019/11/08 全球购物
Java中的异常处理机制的简单原理和应用
2013/04/27 面试题
js实现弹框效果
2021/03/24 Javascript
应届毕业生的自我鉴定
2013/11/13 职场文书
委托书的格式
2014/08/01 职场文书
设立有限责任公司出资协议书
2014/11/01 职场文书
优秀共产党员推荐材料
2014/12/18 职场文书
幽灵公主观后感
2015/06/09 职场文书
法制教育观后感
2015/06/17 职场文书
2015年大学迎新晚会总结
2015/07/16 职场文书
总结Python变量的相关知识
2021/06/28 Python