关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python实现随机密码字典生成器示例
Apr 09 Python
python 请求服务器的实现代码(http请求和https请求)
May 25 Python
Python爬虫框架scrapy实现的文件下载功能示例
Aug 04 Python
OpenCV图像颜色反转算法详解
May 13 Python
python tools实现视频的每一帧提取并保存
Mar 20 Python
Python closure闭包解释及其注意点详解
Aug 28 Python
python函数修饰符@的使用方法解析
Sep 02 Python
Python元组 tuple的概念与基本操作详解【定义、创建、访问、计数、推导式等】
Oct 30 Python
使用SQLAlchemy操作数据库表过程解析
Jun 10 Python
Python 使用 PyQt5 开发的关机小工具分享
Jul 16 Python
解决python中0x80072ee2错误的方法
Jul 19 Python
python 常用的异步框架汇总整理
Jun 18 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
php 数组的合并、拆分、区别取值函数集
2010/02/15 PHP
不重新编译PHP为php增加openssl模块的方法
2011/06/14 PHP
discuz加密解密函数使用方法和中文注释
2014/01/21 PHP
使用新浪微博API的OAuth认证发布微博实例
2015/03/27 PHP
Symfony的安装和配置方法
2016/03/17 PHP
php远程下载类分享
2016/04/13 PHP
PHP微信支付实例解析
2016/07/22 PHP
PHP使用PDO抽象层获取查询结果的方法示例
2018/05/10 PHP
PHP精确到毫秒秒杀倒计时实例详解
2019/03/14 PHP
PHP实现笛卡尔积算法的实例讲解
2019/12/22 PHP
jquery 经典动画菜单效果代码
2010/01/26 Javascript
jquery中的sortable排序之后的保存状态的解决方法
2010/01/28 Javascript
jQuery循环滚动新闻列表示例代码
2014/06/17 Javascript
AngularJS实现表单验证
2015/01/28 Javascript
jquery实现简单手风琴菜单效果实例
2015/06/13 Javascript
jQuery动画效果图片轮播特效
2016/01/12 Javascript
AngularJs中route的使用方法和配置
2016/02/04 Javascript
浅谈时钟的生成(js手写简洁代码)
2016/08/20 Javascript
JavaScript静态作用域和动态作用域实例详解
2019/06/17 Javascript
微信小程序npm引入vant-weapp的踩坑记录
2019/08/01 Javascript
vue实现div可拖动位置也可改变盒子大小的原理
2020/09/16 Javascript
在Python 3中实现类型检查器的简单方法
2015/07/03 Python
利用Hyperic调用Python实现进程守护
2018/01/02 Python
python re模块findall()函数实例解析
2018/01/19 Python
python爬虫获取新浪新闻教学
2018/12/23 Python
pandas DataFrame 警告(SettingWithCopyWarning)的解决
2019/07/23 Python
解决python 读取excel时 日期变成数字并加.0的问题
2019/10/08 Python
Python numpy数组转置与轴变换
2019/11/15 Python
opencv3/Python 稠密光流calcOpticalFlowFarneback详解
2019/12/11 Python
在Ubuntu中安装并配置Pycharm教程的实现方法
2021/01/06 Python
python 基于opencv去除图片阴影
2021/01/26 Python
美国宠物护理专家:Revival Animal Health
2020/01/05 全球购物
收银员的岗位职责范本
2014/02/04 职场文书
一般党员对照检查材料
2014/09/24 职场文书
《詹天佑》教学反思
2016/02/20 职场文书
日本读研:怎样写好一篇日本研究计划书?
2019/07/15 职场文书