粗略分析Python中的内存泄漏


Posted in Python onApril 23, 2015

引子

之前一直盲目的认为 Python 不会存在内存泄露, 但是眼看着上线的项目随着运行时间的增长 而越来越大的内存占用, 我意识到我写的程序在发生内存泄露, 之前 debug 过 logging 模块导致的内存泄露.

目前看来, 还有别的地方引起的内存泄露. 经过一天的奋战, 终于找到了内存泄露的地方, 目前项目 跑了很长时间, 在业务量较小的时候内存还是能回到刚启动的时候的内存占用.
什么情况下不用这么麻烦

如果你的程序只是跑一下就退出大可不必大费周章的去查找是否有内存泄露, 因为 Python 在退出时 会释放它所分配的所有内存, 如果你的程序需要连续跑很长时间那么就要仔细的查找是否 产生了内存泄露.
场景

如何产生的内存泄露呢, 项目是一个 TCP server, 每当有连接过来时都会创建一个连接实例来进行 管理, 每次断开时连接实例还被占用并没有释放. 没有被释放的原因肯定是因为有某个地方对连接 实例的引用没有释放, 所以随着时间的推移, 连接创建分配内存, 连接断开并没有释放掉内存, 所以 就会产生内存泄露.
调试方法

由于不知道具体是哪里引起的内存泄露, 所以要耐心的一点点调试.

由于知道了断开连接时没有释放, 所以我就不停的模拟创建连接然后发送一些包后断开连接, 然后通过下面一行 shell 来观察内存占用情况:

PID=50662;while true; do; ps aux | grep $PID | grep -v grep | awk '{print $5" "$6}' >> t; sleep 1; done

如果在增长了一定的量后保持住就说明已经没有产生泄露.

同时可以在对象该释放的时候查看对象的引用计数, 通过 sys.getrefcount(obj). 如果引用计数变为了 2 则说明该对象在跳出命名空间后就会被正确回收.
产生原因

项目中两种情况导致对象没有被正确回收:

  •     被退出才回收的对象引用
  •     交叉引用

被退出才回收的对象引用

为了追踪连接所以把连接对象同时放在一个列表里, 而这个列表只有在程序退出时才会被回收, 如果不正确处理, 那么分配的对象将也会只在程序退出时才会被回收.

全局变量和类变量都只会在程序退出的时候才会被回收:

_CONNECTIONS = []

# ...
class Connection(object):
 def __init__(self, sock, address)
  pass

def server_loop():
 # ...
 sock, address = server_sock.accept()
 connection = Connection(sock, address)
 _CONNECTIONS.append(connection)
 # ...
 sock.close()

上面把所有建立的连接都放在全局变量 _CONNECTIONS 里, 如果在关闭的时候不从这个列表 里取出(减少引用)则 connection 对象就不会被回收, 则每建立一次连接就会有个连接对象和连接 对象引用的对象不会被回收.

如果把对象放在一个类属性里也是一样的, 因为类对象在程序一开始就分配, 并在程序退出时才被回收.

解决办法就是在退出时从列表(或其他对象)里解除对对象的引用(删除)

_CONNECTIONS = []

# ...
class Connection(object):
 def __init__(self, sock, address)
  pass

def server_loop():
 # ...
 sock, address = server_sock.accept()
 connection = Connection(sock, address)
 _CONNECTIONS.append(connection)
 try:
  # ...
  sock.close()
 finally:
  _CONNECTIONS.remove(connection) # XXX

交叉引用

有时候我们为对象分配一个实例属性时需要将自己本身赋值给实例属性, 作为实例属性的实例属性, 说着很拗口, 看一下代码:

class ConnectionHandler(object):
 def __init__(self, connection):
  self._conn = connection


class Connection(object):
 def __init__(self, sock, address)
  self._conn_handler = ConnectionHandler(self) # XXX

上面的代码就会产生交叉引用, 交叉引用会让解释器困惑, 从而之后只能靠2代和3代回收, 这个过程可能会很慢.

解决这种问题的方法就是使用 弱引用

import weakref

class ConnectionHandler(object):
 def __init__(self, connection):
  self._conn = connection


class Connection(object):
 def __init__(self, sock, address)
  self._conn_handler = ConnectionHandler(weakref.proxy(self)) # XXX
Python 相关文章推荐
Python实现简单http服务器
Apr 12 Python
使用python编写udp协议的ping程序方法
Apr 22 Python
Python DataFrame 设置输出不显示index(索引)值的方法
Jun 07 Python
python 通过麦克风录音 生成wav文件的方法
Jan 09 Python
python3.7 openpyxl 删除指定一列或者一行的代码
Oct 08 Python
python基于celery实现异步任务周期任务定时任务
Dec 30 Python
python文件和文件夹复制函数
Feb 07 Python
python模块如何查看
Jun 16 Python
Python判断变量是否是None写法代码实例
Oct 09 Python
Python通过yagmail实现发送邮件代码解析
Oct 27 Python
pygame面向对象的飞行小鸟实现(Flappy bird)
Apr 01 Python
Python面向对象编程之类的概念
Nov 01 Python
使用beaker让Facebook的Bottle框架支持session功能
Apr 23 #Python
用Python编写脚本使IE实现代理上网的教程
Apr 23 #Python
在Python的Bottle框架中使用微信API的示例
Apr 23 #Python
最基础的Python的socket编程入门教程
Apr 23 #Python
利用Python实现简单的相似图片搜索的教程
Apr 23 #Python
以911新闻为例演示Python实现数据可视化的教程
Apr 23 #Python
Python中优化NumPy包使用性能的教程
Apr 23 #Python
You might like
php去除换行符的方法小结(PHP_EOL变量的使用)
2013/02/16 PHP
php+mysqli实现批量执行插入、更新及删除数据的方法
2015/01/29 PHP
php之可变函数的实例详解
2017/09/13 PHP
表单提交时自动复制内容到剪贴板的js代码
2007/03/16 Javascript
Display SQL Server Version Information
2007/06/21 Javascript
利用jQuery的$.event.fix函数统一浏览器event事件处理
2009/12/21 Javascript
调用jQuery滑出效果时闪烁的解决方法
2014/03/27 Javascript
jquery中$(#form :input)与$(#form input)的区别
2014/08/18 Javascript
jQuery的one()方法用法实例
2015/01/19 Javascript
JavaScript模板引擎用法实例
2015/07/10 Javascript
JS实现的5级联动Select下拉选择框实例
2015/08/17 Javascript
js实现商品抛物线加入购物车特效
2020/11/18 Javascript
浅谈js函数三种定义方式 & 四种调用方式 & 调用顺序
2017/02/19 Javascript
JavaScript实现弹窗效果代码分析
2017/03/09 Javascript
jQuery实现移动端Tab选项卡效果
2017/03/15 Javascript
js实现颜色阶梯渐变效果(Gradient算法)
2017/03/21 Javascript
vue项目中使用vue-i18n报错的解决方法
2019/01/13 Javascript
JavaScript动态生成表格的示例
2020/11/02 Javascript
python登录QQ邮箱发信的实现代码
2013/02/10 Python
python获取list下标及其值的简单方法
2016/09/12 Python
python自动化脚本安装指定版本python环境详解
2017/09/14 Python
浅谈numpy库的常用基本操作方法
2018/01/09 Python
对Python字符串中的换行符和制表符介绍
2018/05/03 Python
django2用iframe标签完成网页内嵌播放b站视频功能
2018/06/20 Python
pandas进行数据的交集与并集方式的数据合并方法
2018/06/27 Python
Python astype(np.float)函数使用方法解析
2020/06/08 Python
饿了么订餐官网:外卖、网上订餐
2019/06/28 全球购物
解释一下抽象方法和抽象类
2016/08/27 面试题
关于毕业的广播稿
2014/01/10 职场文书
毕业生大学生活自我总结
2014/01/31 职场文书
城市精细化管理实施方案
2014/03/04 职场文书
写好自荐信需做到的5要点
2014/03/07 职场文书
2014红色之旅心得体会
2014/10/07 职场文书
小学数学教师研修感悟
2015/11/18 职场文书
《确定位置》教学反思
2016/02/18 职场文书
实习员工转正的评语汇总,以备不时之需
2019/12/17 职场文书