php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
php实现mysql数据库备份类
Mar 20 PHP
Mysql和网页显示乱码解决方法集锦
Mar 27 PHP
PHP 多进程 解决难题
Jun 22 PHP
php 获取客户端的真实ip
Nov 30 PHP
PHP正确解析UTF-8字符串技巧应用
Nov 07 PHP
PHP添加Xdebug扩展的方法
Feb 12 PHP
php 判断网页是否是utf8编码的方法
Jun 06 PHP
php+mysql实现用户注册登陆的方法
Jan 03 PHP
php正则匹配html中带class的div并选取其中内容的方法
Jan 13 PHP
thinkphp中U方法按路由规则生成url的方法
Mar 12 PHP
针对thinkPHP5框架存储过程bug重写的存储过程扩展类完整实例
Jun 16 PHP
PDO::getAvailableDrivers讲解
Jan 28 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
PHP操作XML作为数据库的类
2010/12/19 PHP
php导入excel文件到mysql数据库的方法
2015/01/14 PHP
JQuery 引发两次$(document.ready)事件
2010/01/15 Javascript
Jquery 扩展方法
2010/05/06 Javascript
jquery ready()的几种实现方法小结
2010/06/18 Javascript
jquery select(列表)的操作(取值/赋值)
2011/03/16 Javascript
JS调试必备的5个debug技巧
2014/03/07 Javascript
JS选取DOM元素的简单方法
2016/07/08 Javascript
JavaScript兼容浏览器FF/IE技巧
2016/08/14 Javascript
JS框架之vue.js(深入三:组件1)
2016/09/29 Javascript
NodeJS创建最简单的HTTP服务器
2017/05/15 NodeJs
详解使用angularjs的ng-options时如何设置默认值(初始值)
2017/07/18 Javascript
如何基于vue-cli3.0构建功能完善的移动端架子
2019/04/24 Javascript
vue实现移动端省市区选择
2019/09/27 Javascript
JavaScript链式调用原理与实现方法详解
2020/05/16 Javascript
解决vuex改变了state的值,但是页面没有更新的问题
2020/11/12 Javascript
vue仿携程轮播图效果(滑动轮播,下方高度自适应)
2021/02/11 Vue.js
[01:01:24]DOTA2上海特级锦标赛A组败者赛 EHOME VS CDEC第三局
2016/02/25 DOTA
[02:06]2018完美世界全国高校联赛秋季赛开始报名(附彩蛋)
2018/09/03 DOTA
Python中DJANGO简单测试实例
2015/05/11 Python
Python lxml模块安装教程
2015/06/02 Python
Python统计文件中去重后uuid个数的方法
2015/07/30 Python
Python cv2 图像自适应灰度直方图均衡化处理方法
2018/12/07 Python
pthon贪吃蛇游戏详细代码
2019/01/27 Python
解决torch.autograd.backward中的参数问题
2020/01/07 Python
使用PyTorch实现MNIST手写体识别代码
2020/01/18 Python
Skechers越南官方网站:来自美国的运动休闲品牌
2021/02/22 全球购物
广州一家公司的.NET面试题
2016/06/11 面试题
房地产销售大学生自我评价分享
2013/11/11 职场文书
企业新年寄语
2014/04/04 职场文书
“六查”、“三学”、“三干”查摆问题整改措施
2014/09/27 职场文书
中学社团活动总结
2015/05/07 职场文书
2016个人先进事迹材料范文
2016/03/01 职场文书
Python爬虫框架之Scrapy中Spider的用法
2021/06/28 Python
Elasticsearch6.2服务器升配后的bug(避坑指南)
2022/09/23 Servers
html用代码制作虚线框怎么做? dw制作虚线圆圈的技巧
2022/12/24 HTML / CSS