php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
生成静态页面的PHP类
Nov 25 PHP
PHP中读写文件实现代码
Oct 20 PHP
PHP 文件系统详解
Sep 13 PHP
php读取excel文件的简单实例
Aug 26 PHP
php实现将数组转换为XML的方法
Mar 09 PHP
php实现SAE上使用storage上传与下载文件的方法
Jun 29 PHP
基于PHP实现假装商品限时抢购繁忙的效果
Oct 16 PHP
php利用嵌套数组拼接与解析json的方法
Feb 07 PHP
CakePHP框架Session设置方法分析
Feb 23 PHP
PHP实现的XXTEA加密解密算法示例
Aug 28 PHP
laravel ORM关联关系中的 with和whereHas用法
Oct 16 PHP
PHP保存Base64图片base64_decode的问题整理
Nov 04 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
php 图片上添加透明度渐变的效果
2009/06/29 PHP
php生成excel文件的简单方法
2014/02/08 PHP
PHP7 标准库修改
2021/03/09 PHP
JavaScript的内存释放问题详解
2015/01/21 Javascript
js闭包实现按秒计数
2015/04/23 Javascript
javascript正则表达式定义(语法)总结
2016/01/08 Javascript
jQuery仿写百度百科的目录树
2017/01/03 Javascript
浅析JavaScript中var that=this
2017/02/17 Javascript
如何从0开始用node写一个自己的命令行程序
2018/12/29 Javascript
基于JavaScript获取base64图片大小
2019/10/18 Javascript
JS合并两个数组的3种方法详解
2019/10/24 Javascript
JavaScript异步操作的几种常见处理方法实例总结
2020/05/11 Javascript
微信小程序转化为uni-app项目的方法示例
2020/05/22 Javascript
vue-i18n实现中英文切换的方法
2020/07/06 Javascript
Vue $attrs &amp; inheritAttr实现button禁用效果案例
2020/12/07 Vue.js
flask中使用SQLAlchemy进行辅助开发的代码
2013/02/10 Python
python实现FTP服务器服务的方法
2017/04/11 Python
Python爬虫之模拟知乎登录的方法教程
2017/05/25 Python
用PyInstaller把Python代码打包成单个独立的exe可执行文件
2018/05/26 Python
Python饼状图的绘制实例
2019/01/15 Python
在Pycharm中自动添加时间日期作者等信息的方法
2019/01/16 Python
浅谈Pytorch中的torch.gather函数的含义
2019/08/18 Python
Python通过正则库爬取淘宝商品信息代码实例
2020/03/02 Python
Python读取JSON数据操作实例解析
2020/05/18 Python
video下autoplay属性无效的解决方法(添加muted属性)
2020/05/19 HTML / CSS
欧舒丹美国官网:L’Occitane美国
2018/02/23 全球购物
澳大利亚运动鞋商店:Platypus Shoes
2019/09/27 全球购物
阿拉伯时尚购物网站:Nisnass
2021/02/07 全球购物
婚礼证婚人证婚词
2014/01/13 职场文书
学生喝酒检讨书
2014/02/06 职场文书
会计专业2019暑假实习报告
2019/06/21 职场文书
2019开业庆典剪彩仪式主持词!
2019/07/22 职场文书
MySQL 发生同步延迟时Seconds_Behind_Master还为0的原因
2021/06/21 MySQL
Python Flask搭建yolov3目标检测系统详解流程
2021/11/07 Python
docker 制作mysql镜像并自动安装
2022/05/20 Servers
Vite + React从零开始搭建一个开源组件库
2022/06/25 Javascript