粗略分析Python中的内存泄漏


Posted in Python onApril 23, 2015

引子

之前一直盲目的认为 Python 不会存在内存泄露, 但是眼看着上线的项目随着运行时间的增长 而越来越大的内存占用, 我意识到我写的程序在发生内存泄露, 之前 debug 过 logging 模块导致的内存泄露.

目前看来, 还有别的地方引起的内存泄露. 经过一天的奋战, 终于找到了内存泄露的地方, 目前项目 跑了很长时间, 在业务量较小的时候内存还是能回到刚启动的时候的内存占用.
什么情况下不用这么麻烦

如果你的程序只是跑一下就退出大可不必大费周章的去查找是否有内存泄露, 因为 Python 在退出时 会释放它所分配的所有内存, 如果你的程序需要连续跑很长时间那么就要仔细的查找是否 产生了内存泄露.
场景

如何产生的内存泄露呢, 项目是一个 TCP server, 每当有连接过来时都会创建一个连接实例来进行 管理, 每次断开时连接实例还被占用并没有释放. 没有被释放的原因肯定是因为有某个地方对连接 实例的引用没有释放, 所以随着时间的推移, 连接创建分配内存, 连接断开并没有释放掉内存, 所以 就会产生内存泄露.
调试方法

由于不知道具体是哪里引起的内存泄露, 所以要耐心的一点点调试.

由于知道了断开连接时没有释放, 所以我就不停的模拟创建连接然后发送一些包后断开连接, 然后通过下面一行 shell 来观察内存占用情况:

PID=50662;while true; do; ps aux | grep $PID | grep -v grep | awk '{print $5" "$6}' >> t; sleep 1; done

如果在增长了一定的量后保持住就说明已经没有产生泄露.

同时可以在对象该释放的时候查看对象的引用计数, 通过 sys.getrefcount(obj). 如果引用计数变为了 2 则说明该对象在跳出命名空间后就会被正确回收.
产生原因

项目中两种情况导致对象没有被正确回收:

  •     被退出才回收的对象引用
  •     交叉引用

被退出才回收的对象引用

为了追踪连接所以把连接对象同时放在一个列表里, 而这个列表只有在程序退出时才会被回收, 如果不正确处理, 那么分配的对象将也会只在程序退出时才会被回收.

全局变量和类变量都只会在程序退出的时候才会被回收:

_CONNECTIONS = []

# ...
class Connection(object):
 def __init__(self, sock, address)
  pass

def server_loop():
 # ...
 sock, address = server_sock.accept()
 connection = Connection(sock, address)
 _CONNECTIONS.append(connection)
 # ...
 sock.close()

上面把所有建立的连接都放在全局变量 _CONNECTIONS 里, 如果在关闭的时候不从这个列表 里取出(减少引用)则 connection 对象就不会被回收, 则每建立一次连接就会有个连接对象和连接 对象引用的对象不会被回收.

如果把对象放在一个类属性里也是一样的, 因为类对象在程序一开始就分配, 并在程序退出时才被回收.

解决办法就是在退出时从列表(或其他对象)里解除对对象的引用(删除)

_CONNECTIONS = []

# ...
class Connection(object):
 def __init__(self, sock, address)
  pass

def server_loop():
 # ...
 sock, address = server_sock.accept()
 connection = Connection(sock, address)
 _CONNECTIONS.append(connection)
 try:
  # ...
  sock.close()
 finally:
  _CONNECTIONS.remove(connection) # XXX

交叉引用

有时候我们为对象分配一个实例属性时需要将自己本身赋值给实例属性, 作为实例属性的实例属性, 说着很拗口, 看一下代码:

class ConnectionHandler(object):
 def __init__(self, connection):
  self._conn = connection


class Connection(object):
 def __init__(self, sock, address)
  self._conn_handler = ConnectionHandler(self) # XXX

上面的代码就会产生交叉引用, 交叉引用会让解释器困惑, 从而之后只能靠2代和3代回收, 这个过程可能会很慢.

解决这种问题的方法就是使用 弱引用

import weakref

class ConnectionHandler(object):
 def __init__(self, connection):
  self._conn = connection


class Connection(object):
 def __init__(self, sock, address)
  self._conn_handler = ConnectionHandler(weakref.proxy(self)) # XXX
Python 相关文章推荐
跟老齐学Python之让人欢喜让人忧的迭代
Oct 02 Python
Python模拟登陆淘宝并统计淘宝消费情况的代码实例分享
Jul 04 Python
python爬虫系列Selenium定向爬取虎扑篮球图片详解
Nov 15 Python
Python中的集合介绍
Jan 28 Python
Python实现制度转换(货币,温度,长度)
Jul 14 Python
python使用beautifulsoup4爬取酷狗音乐代码实例
Dec 04 Python
Python爬虫自动化获取华图和粉笔网站的错题(推荐)
Jan 08 Python
手把手教你用Django执行原生SQL的方法
Feb 18 Python
教你漂亮打印Pandas DataFrames和Series
May 29 Python
Django使用echarts进行可视化展示的实践
Jun 10 Python
Python识别花卉种类鉴定网络热门植物并自动整理分类
Apr 08 Python
Python用any()函数检查字符串中的字母以及如何使用all()函数
Apr 14 Python
使用beaker让Facebook的Bottle框架支持session功能
Apr 23 #Python
用Python编写脚本使IE实现代理上网的教程
Apr 23 #Python
在Python的Bottle框架中使用微信API的示例
Apr 23 #Python
最基础的Python的socket编程入门教程
Apr 23 #Python
利用Python实现简单的相似图片搜索的教程
Apr 23 #Python
以911新闻为例演示Python实现数据可视化的教程
Apr 23 #Python
Python中优化NumPy包使用性能的教程
Apr 23 #Python
You might like
espresso double下 咖啡粉超细时 饼压力对咖啡的影响
2021/03/03 冲泡冲煮
php array_intersect()函数使用代码
2009/01/14 PHP
php下将图片以二进制存入mysql数据库中并显示的实现代码
2010/05/27 PHP
11个PHP 分页脚本推荐
2011/08/15 PHP
header跳转和include包含问题详解
2012/09/08 PHP
php强制文件下载而非在浏览器打开的自定义函数分享
2014/05/08 PHP
php遍历数组的4种方法总结
2014/07/05 PHP
使用 PHPStorm 开发 Laravel
2015/03/24 PHP
PHP SPL标准库之数据结构堆(SplHeap)简单使用实例
2015/05/12 PHP
PHP使用file_get_contents发送http请求功能简单示例
2018/04/29 PHP
IE与FireFox中的childNodes区别
2011/10/20 Javascript
JavaScript(js)设置默认输入焦点(focus)
2012/12/28 Javascript
jQuery弹出(alert)select选择的值
2013/04/21 Javascript
PHP+jQuery+Ajax实现多图片上传效果
2015/03/14 Javascript
jQuery实现的网页左侧在线客服效果代码
2015/10/23 Javascript
jQuery取消特定的click事件
2016/02/29 Javascript
JavaScript 中有关数组对象的方法(详解)
2016/08/15 Javascript
Bootstrap3 多选和单选框(checkbox)
2016/12/29 Javascript
如何使用Bootstrap 按钮实例详解
2017/03/29 Javascript
收藏AngularJS中最重要的核心功能
2017/07/09 Javascript
一步步教你利用Canvas对图片进行处理
2017/09/19 Javascript
在Vue组件上动态添加和删除属性方法
2018/02/23 Javascript
element vue Array数组和Map对象的添加与删除操作
2018/11/14 Javascript
JavaScript学习笔记之图片库案例分析
2019/01/08 Javascript
js实现贪吃蛇游戏(简易版)
2020/09/29 Javascript
python测试驱动开发实例
2014/10/08 Python
python利用正则表达式搜索单词示例代码
2017/09/24 Python
python微信跳一跳系列之色块轮廓定位棋盘
2018/02/26 Python
python框架flask表单实现详解
2019/11/04 Python
Java基础知识面试题
2014/03/25 面试题
工作表现评语
2014/01/19 职场文书
银行爱岗敬业演讲稿
2014/05/05 职场文书
会计个人实习计划书
2014/08/15 职场文书
交通事故起诉书
2015/05/19 职场文书
CAD实训总结范文
2015/08/03 职场文书
机关干部作风整顿心得体会
2016/01/22 职场文书