php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
php中使用parse_url()对网址进行解析的实现代码(parse_url详解)
Jan 03 PHP
Codeigniter生成Excel文档的简单方法
Jun 12 PHP
php创建和删除目录函数介绍和递归删除目录函数分享
Nov 18 PHP
PHP图片处理之图片旋转和图片翻转实例
Nov 19 PHP
php中实现获取随机数组列表的自定义函数
Apr 02 PHP
php删除数组中重复元素的方法
Dec 22 PHP
全面解读PHP的Yii框架中的日志功能
Mar 17 PHP
php pdo操作数据库示例
Mar 10 PHP
PHP实现Session入库/存入redis的方法
May 04 PHP
Laravel框架表单验证操作实例分析
Sep 30 PHP
PHP中关于php.ini参数优化详解
Feb 28 PHP
PHP接口类(interface)的定义、特点和应用示例
May 18 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
计算2000年01月01日起到指定日的天数
2006/10/09 PHP
php教程 插件机制在PHP中实现方案
2012/11/02 PHP
apache配置虚拟主机的方法详解
2013/06/17 PHP
Yii使用migrate命令执行sql语句的方法
2016/03/15 PHP
php计算多个集合的笛卡尔积实例详解
2017/02/16 PHP
js模拟点击事件实现代码
2012/11/06 Javascript
js二级地域选择的实现方法
2013/06/17 Javascript
div+css+js实现无缝滚动类似marquee无缝滚动兼容firefox
2013/08/29 Javascript
使用AngularJS编写较为优美的JavaScript代码指南
2015/06/19 Javascript
js下将金额数字每三位一逗号分隔
2016/02/19 Javascript
基于百度地图实现产品销售的单位位置查看功能设计与实现
2016/10/21 Javascript
JS中获取 DOM 元素的绝对位置实例详解
2018/04/23 Javascript
Vue实现6位数密码效果
2018/08/18 Javascript
angular4+百分比进度显示插件用法示例
2019/05/05 Javascript
微信小程序 checkbox使用实例解析
2019/09/09 Javascript
详解Vue Cli浏览器兼容性实践
2020/06/08 Javascript
vue路由分文件拆分管理详解
2020/08/13 Javascript
跟老齐学Python之深入变量和引用对象
2014/09/24 Python
Python 如何访问外围作用域中的变量
2016/09/11 Python
Python3批量生成带logo的二维码方法
2019/06/24 Python
pycharm设置鼠标悬停查看方法设置
2019/07/29 Python
pandas的排序和排名的具体使用
2019/07/31 Python
详解Python设计模式之策略模式
2020/06/15 Python
Python将字典转换为XML的方法
2020/08/01 Python
基于opencv实现简单画板功能
2020/08/02 Python
Pycharm新手使用教程(图文详解)
2020/09/17 Python
Python如何执行系统命令
2020/09/23 Python
瑞典灯具和照明网上商店:Lamp24.se
2018/03/17 全球购物
澳大利亚有机化妆品网上商店:The Well Store
2020/02/20 全球购物
Myprotein荷兰官网:欧洲第一运动营养品牌
2020/07/11 全球购物
小班下学期评语
2014/05/04 职场文书
公务员中国梦演讲稿
2014/08/19 职场文书
小学优秀教师材料
2014/12/15 职场文书
2015年实习生工作总结报告
2015/04/28 职场文书
Linux安装apache服务器的配置过程
2021/11/27 Servers
教你使用Ubuntu搭建DNS服务器
2022/09/23 Servers