php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
收藏的一个php小偷的核心程序
Apr 09 PHP
php入门教程 精简版
Dec 13 PHP
php中的一些数组排序方法分享
Jul 20 PHP
PHP用星号隐藏部份用户名、身份证、IP、手机号等实例
Apr 08 PHP
php中Session的生成机制、回收机制和存储机制探究
Aug 19 PHP
yii2利用自带UploadedFile实现上传图片的示例
Feb 16 PHP
PHP实现git部署的方法教程
Dec 19 PHP
详解Laravel5.6 Passport实现Api接口认证
Jul 27 PHP
使用Zookeeper分布式部署PHP应用程序
Mar 15 PHP
启用OPCache提高PHP程序性能的方法
Mar 21 PHP
Laravel5.1 框架路由基础详解
Jan 04 PHP
Yii 框架使用数据库(databases)的方法示例
May 19 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
一个简单的网页密码登陆php代码
2012/07/17 PHP
PHP二分查找算法示例【递归与非递归方法】
2016/09/29 PHP
laravel 实现上传图片到本地和前台访问示例
2019/10/21 PHP
解决jQuery插件tipswindown与hintbox冲突
2010/11/05 Javascript
SharePoint 客户端对象模型 (一) ECMA Script
2011/05/22 Javascript
JQuery的自定义事件代码,触发,绑定简单实例
2013/08/01 Javascript
JQuery的Ajax中Post方法传递中文出现乱码的解决方法
2014/10/21 Javascript
jquery中object对象循环遍历的方法
2015/12/18 Javascript
jQuery插件Easyui设置datagrid的pageNumber导致两次请求问题的解决方法
2016/08/06 Javascript
详解angularJs中关于ng-class的三种使用方式说明
2017/06/02 Javascript
微信小程序框架wepy之动态控制类名
2018/09/14 Javascript
js实现前面自动补全位数的方法
2018/10/10 Javascript
微信小程序实现带参数的分享功能(两种方法)
2019/05/17 Javascript
Node.js fs模块(文件模块)创建、删除目录(文件)读取写入文件流的方法
2019/09/03 Javascript
JavaScript实现联动菜单特效
2020/01/07 Javascript
原生js实现的金山打字小游戏(实例代码详解)
2020/03/16 Javascript
[48:51]完美世界DOTA2联赛PWL S2 Magma vs InkIce 第一场 11.28
2020/12/02 DOTA
Python学习笔记(二)基础语法
2014/06/06 Python
在Django的URLconf中使用多个视图前缀的方法
2015/07/18 Python
python通过加号运算符操作列表的方法
2015/07/28 Python
python验证码识别的实例详解
2016/09/09 Python
Pyhton中单行和多行注释的使用方法及规范
2016/10/11 Python
Python编程产生非均匀随机数的几种方法代码分享
2017/12/13 Python
Python实现朴素贝叶斯分类器的方法详解
2018/07/04 Python
Python3.5面向对象与继承图文实例详解
2019/04/24 Python
python numpy数组复制使用实例解析
2020/01/10 Python
Django ForeignKey与数据库的FOREIGN KEY约束详解
2020/05/20 Python
使用sublime text3搭建Python编辑环境的实现
2021/01/12 Python
Python实现淘宝秒杀功能的示例代码
2021/01/19 Python
css3动画事件—webkitAnimationEnd与计时器time事件
2013/01/31 HTML / CSS
html5+css3进度条倒计时动画特效代码【推荐】
2016/03/08 HTML / CSS
荟萃全球保健品:维他购
2018/05/09 全球购物
《颐和园》教学反思
2014/02/26 职场文书
学习十八届四中全会精神思想汇报
2014/10/23 职场文书
财务总监岗位职责范本
2015/04/03 职场文书
联谊活动总结范文
2015/05/09 职场文书