关于Python中浮点数精度处理的技巧总结


Posted in Python onAugust 10, 2017

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
用Python写一个无界面的2048小游戏
May 24 Python
利用python获取Ping结果示例代码
Jul 06 Python
在python中使用正则表达式查找可嵌套字符串组
Oct 24 Python
Django admin美化插件suit使用示例
Dec 12 Python
Python基于socket模块实现UDP通信功能示例
Apr 10 Python
python去除拼音声调字母,替换为字母的方法
Nov 28 Python
对django xadmin自定义菜单的实例详解
Jan 03 Python
Python实现程序判断季节的代码示例
Jan 28 Python
Python+numpy实现矩阵的行列扩展方式
Nov 29 Python
Python Flask异步发送邮件实现方法解析
Aug 01 Python
python简单实现9宫格图片实例
Sep 03 Python
python 如何快速复制序列
Sep 07 Python
Python 处理数据的实例详解
Aug 10 #Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
You might like
PHP中SESSION使用中的一点经验总结
2012/03/30 PHP
php计算2个日期的差值函数分享
2015/02/02 PHP
PHP的swoole扩展安装方法详细教程
2016/05/18 PHP
Yii框架防止sql注入,xss攻击与csrf攻击的方法
2016/10/18 PHP
基于win2003虚拟机中apache服务器的访问
2017/08/01 PHP
php实现生成PDF文件的方法示例【基于FPDF类库】
2018/07/21 PHP
PHP使用Http Post请求发送Json对象数据代码解析
2020/07/16 PHP
window.addeventjs事件驱动函数集合addEvent等
2008/02/19 Javascript
JQuery 表格操作(交替显示、拖动表格行、选择行等)
2009/07/29 Javascript
克隆javascript对象的三个方法小结
2011/01/12 Javascript
jquery中交替点击事件的实现代码
2014/02/14 Javascript
JavaScript数据结构和算法之图和图算法
2015/02/11 Javascript
jQuery实现带动画效果的二级下拉导航方法
2015/03/11 Javascript
JavaScript中的Math.SQRT1_2属性使用简介
2015/06/14 Javascript
详解如何较好的使用js
2016/12/16 Javascript
javascript阻止事件冒泡和浏览器的默认行为
2017/01/21 Javascript
详解vue slot插槽的使用方法
2017/06/13 Javascript
Vue中定义全局变量与常量的各种方式详解
2017/08/23 Javascript
AngularJS实现图片上传和预览功能的方法分析
2017/11/08 Javascript
JavaScript异步加载问题总结
2018/02/17 Javascript
jQuery点击页面其他部分隐藏下拉菜单功能
2018/11/27 jQuery
js实现图片推拉门效果代码实例
2019/05/18 Javascript
nodemon实现Typescript项目热更新的示例代码
2019/11/19 Javascript
js实现表单项的全选、反选及删除操作示例
2020/06/05 Javascript
详解pandas.DataFrame中删除包涵特定字符串所在的行
2019/04/04 Python
Python2与Python3的区别实例分析
2019/04/11 Python
python3 打印输出字典中特定的某个key的方法示例
2019/07/06 Python
Python Pandas 箱线图的实现
2019/07/23 Python
德国自行车商店:Tretwerk
2019/06/21 全球购物
如何现实servlet的单线程模式
2014/08/05 面试题
最新计算机专业自荐信
2013/10/16 职场文书
外语系毕业生求职自荐信
2014/04/12 职场文书
中秋节活动总结
2014/08/29 职场文书
个人批评与自我批评总结
2014/10/17 职场文书
nginx 多个location转发任意请求或访问静态资源文件的实现
2021/03/31 Servers
Python实现科学占卜 让视频自动打码
2022/04/09 Python