php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
IIS6.0+PHP5.x+MySQL5.x+Zend3.0x+GD+phpMyAdmin2.8x通用安装实例(已经完成)
Dec 06 PHP
php基础知识:类与对象(1)
Dec 13 PHP
php error_log 函数的使用
Apr 13 PHP
PHP 字符串分割和比较
Oct 06 PHP
php函数array_merge用法一例(合并同类数组)
Feb 03 PHP
php环境无法上传文件的解决方法
Apr 30 PHP
适合PHP初学者阅读的4本经典书籍
Sep 23 PHP
php微信公众平台开发(一) 配置接口
Dec 06 PHP
PHP基于SimpleXML生成和解析xml的方法示例
Jul 17 PHP
PHP实现基于回溯法求解迷宫问题的方法详解
Aug 17 PHP
laravel5.4利用163邮箱发送邮件的步骤详解
Sep 22 PHP
phpinfo的知识点总结
Oct 10 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
帖几个PHP的无限分类实现想法~
2007/01/02 PHP
php 获取可变函数参数的函数
2009/08/26 PHP
在PHP中实现Javascript的escape()函数代码
2010/08/08 PHP
PHP函数之error_reporting(E_ALL ^ E_NOTICE)详细说明
2011/07/01 PHP
色色整理的PHP面试题集锦
2012/03/08 PHP
php获取发送给用户的header信息的方法
2015/03/16 PHP
php安装swoole扩展的方法
2015/03/19 PHP
PHP正则表达式过滤html标签属性(DEMO)
2016/05/04 PHP
php数组函数array_walk用法示例
2016/05/26 PHP
深入浅析Yii admin的权限控制
2016/08/31 PHP
PHP利用二叉堆实现TopK-算法的方法详解
2017/04/24 PHP
PHP实现删除多重数组对象属性并重新赋值的方法
2017/06/07 PHP
php如何把表单内容提交到数据库
2019/07/08 PHP
php写入文件不覆盖的实例讲解
2019/09/17 PHP
获取数组中最大最小值方法js代码(自写)
2013/08/12 Javascript
jquery无法设置checkbox选中即没有变成选中状态
2014/03/27 Javascript
Angularjs基础知识及示例汇总
2015/01/22 Javascript
jQuery中大家不太了解的几个方法
2015/03/04 Javascript
jQuery时间轴插件使用详解
2015/07/16 Javascript
JS实现的仿东京商城菜单、仿Win右键菜单及仿淘宝TAB特效合集
2015/09/28 Javascript
js正则表达式惰性匹配和贪婪匹配用法分析
2016/12/26 Javascript
微信小程序开发教程-手势解锁实例
2017/01/06 Javascript
koa router 多文件引入的方法示例
2019/05/22 Javascript
Vue中添加滚动事件设置的方法详解
2020/09/14 Javascript
Python常见工厂函数用法示例
2018/03/21 Python
python3实现163邮箱SMTP发送邮件
2018/05/22 Python
Atom的python插件和常用插件说明
2018/07/08 Python
html5使用canvas压缩图片的示例代码
2018/09/11 HTML / CSS
绢花、人造花和人造花卉:BLOOM
2019/08/07 全球购物
小学生安全演讲稿
2014/04/25 职场文书
超市优秀员工事迹材料
2014/05/01 职场文书
化学专业大学生职业生涯规划范文
2014/09/13 职场文书
会计岗位职责范本
2015/04/02 职场文书
基于Python实现的购物商城管理系统
2021/04/27 Python
分享五个Node.js开发的优秀实践 
2022/04/07 NodeJs
vue项目proxyTable配置和部署服务器
2022/04/14 Vue.js