关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python模拟登录百度贴吧(百度贴吧登录)实例
Dec 18 Python
Windows下安装python2.7及科学计算套装
Mar 05 Python
Python实现自动发送邮件功能
Mar 02 Python
PyQT实现多窗口切换
Apr 20 Python
python迭代dict的key和value的方法
Jul 06 Python
Python使用POP3和SMTP协议收发邮件的示例代码
Apr 16 Python
python tkinter canvas 显示图片的示例
Jun 13 Python
详解Python3 pandas.merge用法
Sep 05 Python
python运用sklearn实现KNN分类算法
Oct 16 Python
Python中实现输入超时及如何通过变量获取变量名
Jan 18 Python
Pycharm自动添加文件头注释和函数注释参数的方法
Oct 23 Python
微信小程序调用python模型
Apr 21 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
一些被忽视的PHP函数(简单整理)
2010/04/30 PHP
php带密码功能并下载远程文件保存本地指定目录 修改加强版
2010/05/16 PHP
PHP变量内存分配问题记录整理
2013/11/27 PHP
Yii框架批量插入数据扩展类的简单实现方法
2017/05/23 PHP
PHP iconv()函数字符编码转换的问题讲解
2019/03/22 PHP
jQuery实现向下滑出的平滑下拉菜单效果
2015/08/21 Javascript
点评js异步加载的4种方式
2015/12/22 Javascript
浅析JS操作DOM的一些常用方法
2016/05/13 Javascript
bootstrap多种样式进度条展示
2016/12/20 Javascript
jQuery幻灯片插件owlcarousel参数说明中文文档
2018/02/27 jQuery
vue keep-alive请求数据的方法示例
2018/05/16 Javascript
element-ui 中使用upload多文件上传只请求一次接口
2019/07/19 Javascript
angula中使用iframe点击后不执行变更检测的问题
2020/05/10 Javascript
[01:09:19]DOTA2-DPC中国联赛 正赛 VG vs Aster BO3 第二场 2月28日
2021/03/11 DOTA
Python实现比较两个列表(list)范围
2015/06/12 Python
Python使用爬虫猜密码
2016/02/19 Python
python自动翻译实现方法
2016/05/28 Python
Python Socket编程详细介绍
2017/03/23 Python
使用Python从零开始撸一个区块链
2018/03/14 Python
Python实现插入排序和选择排序的方法
2019/05/12 Python
Python高级property属性用法实例分析
2019/11/19 Python
html5中 media(播放器)的api使用指南
2014/12/26 HTML / CSS
J.Crew官网:美国知名休闲服装品牌
2017/05/19 全球购物
bareMinerals官网:矿物质化妆品和护肤品
2018/02/04 全球购物
EQVVS官网:设计师男装和女装
2018/10/24 全球购物
自动化专业个人求职信范文
2013/11/29 职场文书
会计工作心得体会
2014/01/13 职场文书
二手书店创业计划书
2014/01/16 职场文书
中学生学雷锋活动心得体会
2014/03/10 职场文书
《新型玻璃》教学反思
2014/04/13 职场文书
我们的节日春节活动方案
2014/08/22 职场文书
药店营业员岗位职责
2015/04/14 职场文书
2015年乡镇民政工作总结
2015/05/13 职场文书
春节晚会开场白
2015/05/29 职场文书
Jupyter notebook 输出部分显示不全的解决方案
2021/04/24 Python
详细了解java监听器和过滤器
2021/07/09 Java/Android