关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python实现识别相似图片小结
Feb 22 Python
详解设计模式中的工厂方法模式在Python程序中的运用
Mar 02 Python
Python实现文件内容批量追加的方法示例
Aug 29 Python
Python字符串格式化的方法(两种)
Sep 19 Python
Python 基础教程之闭包的使用方法
Sep 29 Python
python实现壁纸批量下载代码实例
Jan 25 Python
NumPy 数学函数及代数运算的实现代码
Jul 18 Python
解决python replace函数替换无效问题
Jan 18 Python
解决Python paramiko 模块远程执行ssh 命令 nohup 不生效的问题
Jul 14 Python
Python远程linux执行命令实现
Nov 11 Python
python爬虫之selenium库的安装及使用教程
May 23 Python
彻底弄懂Python中的回调函数(callback)
Jun 25 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
WordPress免插件实现面包屑导航的示例代码
2020/08/20 PHP
JQuery从头学起第二讲
2010/07/04 Javascript
JavaScript—window对象使用示例
2013/12/09 Javascript
一个小例子解释如何来阻止Jquery事件冒泡
2014/07/17 Javascript
JavaScript 学习笔记之基础中的基础
2015/01/13 Javascript
js+HTML5实现canvas多种颜色渐变效果的方法
2015/06/05 Javascript
javascript实现数组内值索引随机化及创建随机数组的方法
2015/08/10 Javascript
谈谈Jquery ajax中success和complete有哪些不同点
2015/11/20 Javascript
JS图片等比例缩放方法完整示例
2016/08/03 Javascript
EasyUI的doCellTip实现鼠标放到单元格上提示单元格内容
2016/08/24 Javascript
简化版的vue-router实现思路详解
2018/10/19 Javascript
深入浅析Node.js 事件循环、定时器和process.nextTick()
2018/10/22 Javascript
jquery ui 实现 tab标签功能示例【测试可用】
2019/07/25 jQuery
es6 super关键字的理解与应用实例分析
2020/02/15 Javascript
JS绘图Flot如何实现动态可刷新曲线图
2020/10/16 Javascript
[06:45]DOTA2-DPC中国联赛 正赛 Magma vs LBZS 选手采访
2021/03/11 DOTA
python中日志logging模块的性能及多进程详解
2017/07/18 Python
详解如何用OpenCV + Python 实现人脸识别
2017/10/20 Python
Python读取word文本操作详解
2018/01/22 Python
Python 做曲线拟合和求积分的方法
2018/12/29 Python
Python Django给admin添加Action的方法实例详解
2019/04/29 Python
浅析Windows 嵌入python解释器的过程
2019/07/26 Python
Python接口测试数据库封装实现原理
2020/05/09 Python
Python-for循环的内部机制
2020/06/12 Python
基于CentOS搭建Python Django环境过程解析
2020/08/24 Python
美国户外运动商店:Sun & Ski
2018/08/23 全球购物
如果NULL和0作为空指针常数是等价的,那我到底该用哪一个
2014/09/16 面试题
高职助产应届生自荐信
2013/09/24 职场文书
大学生毕业自我评价范文分享
2013/11/07 职场文书
专科应届生求职信
2013/11/24 职场文书
巡警年度自我鉴定
2014/02/21 职场文书
好好学习保证书
2015/02/26 职场文书
十二月早安励志心语大全
2019/12/03 职场文书
Python实现随机生成迷宫并自动寻路
2021/06/13 Python
PostgreSQL解析URL的方法
2021/08/02 PostgreSQL
Python时间操作之pytz模块使用详解
2022/06/14 Python