php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
php中文件上传的安全问题
Oct 09 PHP
如何利用php+mysql保存和输出文件
Oct 09 PHP
一个简单的PHP投票程序源码
Mar 11 PHP
php xml文件操作实现代码(二)
Mar 20 PHP
php 购物车的例子
May 04 PHP
PHPMailer 中文使用说明小结
Jan 22 PHP
PHP创建/删除/复制文件夹、文件
May 03 PHP
ThinkPHP中session函数详解
Sep 14 PHP
PHP Mysqli 常用代码集合
Nov 12 PHP
Laravel框架中Blade模板的用法示例
Aug 30 PHP
php实现的生成迷宫与迷宫寻址算法完整实例
Nov 06 PHP
laravel框架使用FormRequest进行表单验证,验证异常返回JSON操作示例
Feb 18 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
PHP strtr() 函数使用说明
2008/11/21 PHP
Apache+php+mysql在windows下的安装与配置图解(最新版)
2008/11/30 PHP
基于php socket(fsockopen)的应用实例分析
2013/06/02 PHP
Symfony2开发之控制器用法实例分析
2016/02/05 PHP
php关闭warning问题的解决方法
2016/05/17 PHP
javascript下高性能字符串连接StringBuffer类
2010/08/16 Javascript
Javascript延迟执行实现方法(setTimeout)
2010/12/30 Javascript
js读写cookie实现一个底部广告浮层效果的两种方法
2013/12/29 Javascript
JS获取下拉列表所选中的TEXT和Value的实现代码
2014/01/11 Javascript
node.js中的path.basename方法使用说明
2014/12/09 Javascript
微信JSSDK上传图片
2015/08/23 Javascript
小心!AngularJS结合RequireJS做文件合并压缩的那些坑
2016/01/09 Javascript
原生JavaScript实现动态省市县三级联动下拉框菜单实例代码
2016/02/03 Javascript
JavaScript面试开发常用的知识点总结
2016/08/08 Javascript
Angularjs CURD 详解及实例代码
2016/09/14 Javascript
js阻止移动端页面滚动的两种方法
2017/01/25 Javascript
electron实现qq快捷登录的方法示例
2018/10/22 Javascript
详解Vue.directive 自定义指令
2019/03/27 Javascript
Python开发WebService系列教程之REST,web.py,eurasia,Django
2014/06/30 Python
浅谈python中截取字符函数strip,lstrip,rstrip
2015/07/17 Python
Django Web开发中django-debug-toolbar的配置以及使用
2018/05/06 Python
TensorFlow车牌识别完整版代码(含车牌数据集)
2019/08/05 Python
Marriott中国:万豪国际酒店查询预订
2016/09/02 全球购物
芬兰攀岩、山地运动和户外活动用品购物网站:Bergfreunde
2016/10/06 全球购物
全球最大的中文旅行网站:去哪儿网
2017/11/16 全球购物
什么是聚集索引和非聚集索引
2012/01/17 面试题
大学生毕业求职找工作的自我评价
2013/09/29 职场文书
护理学毕业生自荐信
2013/10/02 职场文书
临床医学专业毕业生的自我评价
2013/10/17 职场文书
社区工作者感言
2014/03/02 职场文书
化妆品活动策划方案
2014/05/23 职场文书
汽车检测与维修专业求职信
2014/07/04 职场文书
七一党日活动总结
2014/07/08 职场文书
法制教育演讲稿
2014/09/10 职场文书
CSS作用域(样式分割)的使用汇总
2021/11/07 HTML / CSS
Mongodb 迁移数据块的流程介绍分析
2022/04/18 MongoDB