关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python 正则式使用心得
May 07 Python
python解析html开发库pyquery使用方法
Feb 07 Python
浅谈python中列表、字符串、字典的常用操作
Sep 19 Python
Python中int()函数的用法浅析
Oct 17 Python
Python+matplotlib+numpy实现在不同平面的二维条形图
Jan 02 Python
对python中if语句的真假判断实例详解
Feb 18 Python
django数据库自动重连的方法实例
Jul 21 Python
python3 webp转gif格式的实现示例
Dec 10 Python
PYcharm 激活方法(推荐)
Mar 23 Python
Python使用windows设置定时执行脚本
Nov 12 Python
Python3爬虫ChromeDriver的安装实例
Feb 06 Python
Python机器学习算法之决策树算法的实现与优缺点
May 13 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
PHP函数积累总结
2019/03/19 PHP
Laravel 之url参数,获取路由参数的例子
2019/10/21 PHP
JavaScript操纵窗口的方法小结
2013/06/28 Javascript
浅谈JavaScript函数参数的可修改性问题
2013/12/05 Javascript
jQuery使用fadeout实现元素渐隐效果的方法
2015/03/27 Javascript
javascript实现随时变化着的背景颜色
2015/04/02 Javascript
js实现兼容IE和FF的上下层的移动
2015/05/04 Javascript
js实现的黑背景灰色二级导航菜单效果代码
2015/08/24 Javascript
简单介绍JavaScript数据类型之隐式类型转换
2015/12/28 Javascript
javaScript如何跳出多重循环break、continue
2016/09/01 Javascript
ES6概念 Symbol toString()方法
2016/12/25 Javascript
利用策略模式与装饰模式扩展JavaScript表单验证功能
2017/02/14 Javascript
详解使用nvm安装node.js
2017/07/18 Javascript
node.js实现的装饰者模式示例
2017/09/06 Javascript
微信小程序JS加载esmap地图的实例详解
2019/09/04 Javascript
vue自动添加浏览器兼容前后缀操作
2020/08/13 Javascript
vue自定义指令和动态路由实现权限控制
2020/08/28 Javascript
Vue实现点击当前行变色
2020/12/14 Vue.js
python正则中最短匹配实现代码
2018/01/16 Python
Python将一个CSV文件里的数据追加到另一个CSV文件的方法
2018/07/04 Python
python实现指定文件夹下的指定文件移动到指定位置
2018/09/17 Python
对Python3 序列解包详解
2019/02/16 Python
关于python字符串方法分类详解
2019/08/20 Python
pytorch 实现删除tensor中的指定行列
2020/01/13 Python
使用python客户端访问impala的操作方式
2020/03/28 Python
python属于跨平台语言码
2020/06/09 Python
Python如何将模块打包并发布
2020/08/30 Python
CSS3 实现的加载动画
2020/12/07 HTML / CSS
canvas 下载二维码和图片加水印的方法
2018/03/21 HTML / CSS
Berghaus官网:户外服装和设备,防水服
2020/01/17 全球购物
自荐信不宜过于夸大
2013/11/06 职场文书
优秀社区干部事迹材料
2014/02/03 职场文书
《钱学森》听课反思
2014/03/01 职场文书
祖国在我心中演讲稿500字
2014/05/04 职场文书
党员教师学习党的群众路线教育实践活动心得体会
2014/10/31 职场文书
win7配置本地ftp服务器的图文教程
2022/08/05 Servers