粗略分析Python中的内存泄漏


Posted in Python onApril 23, 2015

引子

之前一直盲目的认为 Python 不会存在内存泄露, 但是眼看着上线的项目随着运行时间的增长 而越来越大的内存占用, 我意识到我写的程序在发生内存泄露, 之前 debug 过 logging 模块导致的内存泄露.

目前看来, 还有别的地方引起的内存泄露. 经过一天的奋战, 终于找到了内存泄露的地方, 目前项目 跑了很长时间, 在业务量较小的时候内存还是能回到刚启动的时候的内存占用.
什么情况下不用这么麻烦

如果你的程序只是跑一下就退出大可不必大费周章的去查找是否有内存泄露, 因为 Python 在退出时 会释放它所分配的所有内存, 如果你的程序需要连续跑很长时间那么就要仔细的查找是否 产生了内存泄露.
场景

如何产生的内存泄露呢, 项目是一个 TCP server, 每当有连接过来时都会创建一个连接实例来进行 管理, 每次断开时连接实例还被占用并没有释放. 没有被释放的原因肯定是因为有某个地方对连接 实例的引用没有释放, 所以随着时间的推移, 连接创建分配内存, 连接断开并没有释放掉内存, 所以 就会产生内存泄露.
调试方法

由于不知道具体是哪里引起的内存泄露, 所以要耐心的一点点调试.

由于知道了断开连接时没有释放, 所以我就不停的模拟创建连接然后发送一些包后断开连接, 然后通过下面一行 shell 来观察内存占用情况:

PID=50662;while true; do; ps aux | grep $PID | grep -v grep | awk '{print $5" "$6}' >> t; sleep 1; done

如果在增长了一定的量后保持住就说明已经没有产生泄露.

同时可以在对象该释放的时候查看对象的引用计数, 通过 sys.getrefcount(obj). 如果引用计数变为了 2 则说明该对象在跳出命名空间后就会被正确回收.
产生原因

项目中两种情况导致对象没有被正确回收:

  •     被退出才回收的对象引用
  •     交叉引用

被退出才回收的对象引用

为了追踪连接所以把连接对象同时放在一个列表里, 而这个列表只有在程序退出时才会被回收, 如果不正确处理, 那么分配的对象将也会只在程序退出时才会被回收.

全局变量和类变量都只会在程序退出的时候才会被回收:

_CONNECTIONS = []

# ...
class Connection(object):
 def __init__(self, sock, address)
  pass

def server_loop():
 # ...
 sock, address = server_sock.accept()
 connection = Connection(sock, address)
 _CONNECTIONS.append(connection)
 # ...
 sock.close()

上面把所有建立的连接都放在全局变量 _CONNECTIONS 里, 如果在关闭的时候不从这个列表 里取出(减少引用)则 connection 对象就不会被回收, 则每建立一次连接就会有个连接对象和连接 对象引用的对象不会被回收.

如果把对象放在一个类属性里也是一样的, 因为类对象在程序一开始就分配, 并在程序退出时才被回收.

解决办法就是在退出时从列表(或其他对象)里解除对对象的引用(删除)

_CONNECTIONS = []

# ...
class Connection(object):
 def __init__(self, sock, address)
  pass

def server_loop():
 # ...
 sock, address = server_sock.accept()
 connection = Connection(sock, address)
 _CONNECTIONS.append(connection)
 try:
  # ...
  sock.close()
 finally:
  _CONNECTIONS.remove(connection) # XXX

交叉引用

有时候我们为对象分配一个实例属性时需要将自己本身赋值给实例属性, 作为实例属性的实例属性, 说着很拗口, 看一下代码:

class ConnectionHandler(object):
 def __init__(self, connection):
  self._conn = connection


class Connection(object):
 def __init__(self, sock, address)
  self._conn_handler = ConnectionHandler(self) # XXX

上面的代码就会产生交叉引用, 交叉引用会让解释器困惑, 从而之后只能靠2代和3代回收, 这个过程可能会很慢.

解决这种问题的方法就是使用 弱引用

import weakref

class ConnectionHandler(object):
 def __init__(self, connection):
  self._conn = connection


class Connection(object):
 def __init__(self, sock, address)
  self._conn_handler = ConnectionHandler(weakref.proxy(self)) # XXX
Python 相关文章推荐
python实现多线程的两种方式
May 22 Python
Python网络爬虫与信息提取(实例讲解)
Aug 29 Python
利用Django提供的ModelForm增删改数据的方法
Jan 06 Python
python实现栅栏加解密 支持密钥加密
Mar 20 Python
Python实现多线程/多进程的TCP服务器
Sep 03 Python
numpy.random.shuffle打乱顺序函数的实现
Sep 10 Python
python用quad、dblquad实现一维二维积分的实例详解
Nov 20 Python
python groupby 函数 as_index详解
Dec 16 Python
tensorflow 模型权重导出实例
Jan 24 Python
解决Tensorflow sess.run导致的内存溢出问题
Feb 05 Python
Python如何用wx模块创建文本编辑器
Jun 07 Python
python之语音识别speech模块
Sep 09 Python
使用beaker让Facebook的Bottle框架支持session功能
Apr 23 #Python
用Python编写脚本使IE实现代理上网的教程
Apr 23 #Python
在Python的Bottle框架中使用微信API的示例
Apr 23 #Python
最基础的Python的socket编程入门教程
Apr 23 #Python
利用Python实现简单的相似图片搜索的教程
Apr 23 #Python
以911新闻为例演示Python实现数据可视化的教程
Apr 23 #Python
Python中优化NumPy包使用性能的教程
Apr 23 #Python
You might like
用PHP将数据导入到Foxmail
2006/10/09 PHP
使用Xdebug调试和优化PHP程序之[1]
2007/04/17 PHP
php 中文字符入库或显示乱码问题的解决方法
2010/04/12 PHP
PHP封装的数据库保存session功能类
2016/07/11 PHP
php版交通银行网银支付接口开发入门教程
2016/09/26 PHP
Yii框架创建cronjob定时任务的方法分析
2017/05/23 PHP
PHP Post获取不到非表单数据的问题解决办法
2018/02/27 PHP
js 弹出新页面避免被浏览器、ad拦截的一种新方法
2014/04/30 Javascript
JS简单实现String转Date的方法
2016/03/02 Javascript
HTML5 canvas 9绘制图片实例详解
2016/09/06 Javascript
JS IOS/iPhone的Safari浏览器不兼容Javascript中的Date()问题如何解决
2016/11/11 Javascript
jQuery ajax 当async为false时解决同步操作失败的问题
2016/11/18 Javascript
第一次接触神奇的前端框架vue.js
2016/12/01 Javascript
js实现拖拽功能
2017/03/01 Javascript
jQuery 开发之EasyUI 添加数据的实例
2017/09/26 jQuery
jQuery选择器之层次选择器用法实例分析
2019/02/19 jQuery
elementUI vue this.$confirm 和el-dialog 弹出框 移动 示例demo
2019/07/03 Javascript
element-ui table组件如何使用render属性的实现
2019/11/04 Javascript
JavaScript ES6 Class类实现原理详解
2020/05/08 Javascript
基于canvas实现手写签名(vue)
2020/05/21 Javascript
解决Vue keep-alive 调用 $destory() 页面不再被缓存的情况
2020/10/30 Javascript
Python性能优化的20条建议
2014/10/25 Python
基于Python的文件类型和字符串详解
2017/12/21 Python
python函数的万能参数传参详解
2019/07/26 Python
Django框架安装方法图文详解
2019/11/04 Python
python 实现视频 图像帧提取
2019/12/10 Python
基于K.image_data_format() == 'channels_first' 的理解
2020/06/29 Python
HTML5如何实现元素拖拽
2016/03/11 HTML / CSS
html5教程实现Photoshop渐变色效果
2013/12/04 HTML / CSS
Needle & Thread官网:英国仙女品牌
2018/01/13 全球购物
亿企通软件测试面试题
2012/04/10 面试题
EJB timer的种类
2014/10/28 面试题
大学生求职中的自我评价
2013/10/01 职场文书
幼儿园毕业典礼家长致辞
2015/07/29 职场文书
小数乘法教学反思
2016/02/22 职场文书
Python Django框架介绍之模板标签及模板的继承
2021/05/27 Python