关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
在Python的Django框架中创建和使用模版
Jul 15 Python
Python的Scrapy爬虫框架简单学习笔记
Jan 20 Python
python爬虫的一个常见简单js反爬详解
Jul 09 Python
Django 对象关系映射(ORM)源码详解
Aug 06 Python
Django之PopUp的具体实现方法
Aug 31 Python
Python+numpy实现矩阵的行列扩展方式
Nov 29 Python
Python json转字典字符方法实例解析
Apr 13 Python
Python openpyxl模块实现excel读写操作
Jun 30 Python
python连接mysql数据库并读取数据的实现
Sep 25 Python
安装不同版本的tensorflow与models方法实现
Feb 20 Python
python中os.path.join()函数实例用法
May 26 Python
4种方法python批量修改替换列表中元素
Apr 07 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
php 将bmp图片转为jpg等其他任意格式的图片
2009/06/21 PHP
ThinkPHP表单数据智能写入create方法实例分析
2015/09/27 PHP
一个简单的php路由类
2016/05/29 PHP
来自国外的页面JavaScript文件优化
2010/12/08 Javascript
jQuery代码优化 遍历篇
2011/11/01 Javascript
Javascript模块化编程(一)模块的写法最佳实践
2013/01/17 Javascript
JavaScript实现图片自动加载的瀑布流效果
2016/04/11 Javascript
js提交form表单,并传递参数的实现方法
2016/05/25 Javascript
VUEJS实战之修复错误并且美化时间(2)
2016/06/13 Javascript
jQuery的Read()方法代替原生JS详解
2016/11/08 Javascript
Bootstrap表单简单实现代码
2017/03/06 Javascript
jquery dataTable 后台加载数据并分页实例代码
2017/06/07 jQuery
详解从Vue.js源码看异步更新DOM策略及nextTick
2017/10/11 Javascript
vue 插值 v-once,v-text, v-html详解
2018/01/19 Javascript
layui table数据修改的回显方法
2019/09/04 Javascript
vuex实现数据状态持久化
2019/11/11 Javascript
[04:40]2016个国际邀请赛中国区预选赛场地——华西村观战指南
2016/06/25 DOTA
在Python中关于中文编码问题的处理建议
2015/04/08 Python
python使用urlparse分析网址中域名的方法
2015/04/15 Python
Python探索之pLSA实现代码
2017/10/25 Python
Django入门使用示例
2017/12/12 Python
浅谈Python2、Python3相对路径、绝对路径导入方法
2018/06/22 Python
Python中__slots__属性介绍与基本使用方法
2018/09/05 Python
pandas pivot_table() 按日期分多列数据的方法
2018/11/16 Python
pip安装py_zipkin时提示的SSL问题对应
2018/12/29 Python
python 下 CMake 安装配置 OPENCV 4.1.1的方法
2019/09/30 Python
python实现简易淘宝购物
2019/11/22 Python
pycharm实现在虚拟环境中引入别人的项目
2020/03/09 Python
pycharm + django跨域无提示的解决方法
2020/12/06 Python
德国低价购买灯具和家具网站:Style-home.de
2016/11/25 全球购物
理工类毕业自我鉴定
2014/02/20 职场文书
交警个人先进事迹材料
2014/05/11 职场文书
2014年党课学习材料
2014/05/11 职场文书
2016年“我们的节日·中秋节”活动总结
2016/04/05 职场文书
Python中如何处理常见报错
2022/01/18 Python
Python实现学生管理系统并生成exe可执行文件详解流程
2022/01/22 Python