PHP查询MySQL大量数据的时候内存占用分析


Posted in PHP onJuly 22, 2011

昨天, 有同事在PHP讨论群里提到, 他做的一个项目由于MySQL查询返回的结果太多(达10万条), 从而导致PHP内存不够用. 所以, 他问, 在执行下面的代码遍历返回的MySQL结果之前, 数据是否已经在内存中了? -

while ($row = mysql_fetch_assoc($result)) { 

// ... 

}

当然, 这种问题有许多优化的方法. 不过, 就这个问题来讲, 我首先想到, MySQL是经典的C/S(Client/Server, 客户端/服务器)模型, 在遍历结果集之前, 底层的实现可能已经把所有的数据通过网络(假设使用TCP/IP)读到了Client的缓冲区, 也有另一种可能, 就是数据还在Server端的发送缓冲区里, 并没有传给Client.

在查看PHP和MySQL的源码之前, 我注意到PHP手册里有两个功能相近的函数:

mysql_query() 

mysql_unbuffered_query()

两个函数的字面意思和说明证实了我的想法, 前一个函数执行时, 会把所有的结果集从Server端读到Client端的缓冲区中, 而后一个则没有, 这就是”unbuffered(未缓冲)”的意思.

那就是说, 如果用mysql_unbuffered_query()执行了一条返回大量结果集的SQL语句, 在遍历结果之前, PHP的内存是没有被结果集占用的. 而用mysql_query()来执行同样的语句的话, 函数返回时, PHP的内存占用便会急剧增加, 立即耗光内存.

如果阅读PHP的相关代码, 可以看到这两个函数的实现上的异同:

/* {{{ proto resource mysql_query(string query [, int link_identifier]) 

Sends an SQL query to MySQL */ 

PHP_FUNCTION(mysql_query) 

{ 

php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_STORE_RESULT); 

} 

/* }}} */ 

/* {{{ proto resource mysql_unbuffered_query(string query [, int link_identifier]) 

Sends an SQL query to MySQL, without fetching and buffering the result rows */ 

PHP_FUNCTION(mysql_unbuffered_query) 

{ 

php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_USE_RESULT); 

} 

/* }}} */

两个函数都调用了php_mysql_do_query(), 只差了第2个参数的不同, MYSQL_STORE_RESULT和MYSQL_USE_RESULT. 再看php_mysql_do_query()的实现:

if(use_store == MYSQL_USE_RESULT) { 

mysql_result=mysql_use_result(&mysql->conn); 

} else { 

mysql_result=mysql_store_result(&mysql->conn); 

}

mysql_use_result()和mysql_store_result()是MySQL的C API函数, 这两个C API函数的区别就是后者把结果集从MySQL Server端全部读取到了Client端, 前者只是读取了结果集的元信息.

回到PHP, 使用mysql_unbuffered_query(), 可以避免内存的立即占用. 如果在遍历的过程不对结果进行”PHP缓存”(如放到某数组中), 则整个执行过程虽然操作了十万条或者百万条或者更多的数据, 但PHP占用的内存始终是非常小的.

PHP 相关文章推荐
PHP语法速查表
Dec 06 PHP
PHP5.3.1 不再支持ISAPI
Jan 08 PHP
简单的移动设备检测PHP脚本代码
Feb 19 PHP
使用PHP求两个文件的相对路径
Jun 20 PHP
PHP英文字母大小写转换函数小结
May 03 PHP
PHP简单选择排序算法实例
Jan 26 PHP
PHP的压缩函数实现:gzencode、gzdeflate和gzcompress的区别
Jan 27 PHP
thinkphp框架下实现登录、注册、找回密码功能
Apr 06 PHP
PHP操作MySQL中BLOB字段的方法示例【存储文本与图片】
Sep 15 PHP
ThinkPHP整合datatables实现服务端分页的示例代码
Feb 10 PHP
PHP getName()函数讲解
Feb 03 PHP
swoole锁的机制代码实例讲解
Mar 04 PHP
PHP性能优化 产生高度优化代码
Jul 22 #PHP
PHP多个版本的分析解释
Jul 21 #PHP
QQ登录 PHP OAuth示例代码
Jul 20 #PHP
模板引擎正则表达式调试小技巧
Jul 20 #PHP
php中批量替换文件名的实现代码
Jul 20 #PHP
关于php连接mssql:pdo odbc sql server
Jul 20 #PHP
PHP mcrypt可逆加密算法分析
Jul 19 #PHP
You might like
探讨多键值cookie(php中cookie存取数组)的详解
2013/06/06 PHP
php 强制下载文件实现代码
2013/10/28 PHP
PHP编写文件多服务器同步程序
2016/07/02 PHP
CMSPRESS 10行代码搞定 PHP无限级分类2
2018/03/30 PHP
JavaScript null和undefined区别分析
2009/10/14 Javascript
js sort 二维数组排序的用法小结
2014/01/24 Javascript
jQuery实现的简单提示信息插件
2015/12/08 Javascript
JS实现根据文件字节数返回文件大小的方法
2016/08/02 Javascript
nodeJs内存泄漏问题详解
2016/09/05 NodeJs
Bootstrap栅格系统学习笔记
2016/11/25 Javascript
JQuery实现table中tr上移下移的示例(超简单)
2018/01/08 jQuery
vue2中使用less简易教程
2018/03/27 Javascript
JavaScript交换变量的常用方法小结【4种方法】
2020/05/07 Javascript
Element Dropdown下拉菜单的使用方法
2020/07/26 Javascript
python3.3实现乘法表示例
2014/02/07 Python
python实现从字典中删除元素的方法
2015/05/04 Python
tensorflow 获取变量&打印权值的实例讲解
2018/06/14 Python
python实现简单tftp(基于udp协议)
2018/07/30 Python
对python3中pathlib库的Path类的使用详解
2018/10/14 Python
python处理自动化任务之同时批量修改word里面的内容的方法
2019/08/23 Python
Keras预训练的ImageNet模型实现分类操作
2020/07/07 Python
css3截图_动力节点Java学院整理
2017/07/11 HTML / CSS
HTML5制作表格样式
2016/11/15 HTML / CSS
html5实现多图片预览上传及点击可拖拽控件
2018/03/15 HTML / CSS
Spartoo西班牙官网:法国时尚购物网站
2018/03/27 全球购物
美国领先的家庭健康检测试剂盒提供商:LetsGetChecked
2019/03/18 全球购物
党员自我批评与反省材料
2014/02/10 职场文书
项目经理任命书内容
2014/06/06 职场文书
党的群众路线教育实践活动总结报告
2014/07/03 职场文书
最新离婚协议书范本
2014/08/19 职场文书
2014法院干警廉洁警示教育思想汇报
2014/09/13 职场文书
党员“四风”方面存在问题及整改措施
2014/09/24 职场文书
学校领导四风问题整改措施思想汇报
2014/10/09 职场文书
作风建设整改方案
2014/10/27 职场文书
2015年度物流工作总结
2015/04/30 职场文书
eval(cmd)与eval($cmd)的区别与联系
2021/07/07 PHP