php定期拉取数据对比方法实例


Posted in PHP onSeptember 22, 2019

写在前面

今天在网上看帖子提问的时候,看到有人发表了一个提问

php下载远程的批量文件,每天一次,对比昨天和今天的文件,将旧文件替换成新文件

我们通过这个问题来分析讲解一下其中的知识点。

首先要解决的问题是:如何让程序每天自动执行一次脚本

php定时执行任务

关于定时执行,最常见的方法是利用系统级别自带的功能

  • linux ( crontab 定时任务命令) windows计划任务

这需要手动修改系统的任务文件,然后使其生效

手动在linux添加定时任务

# crontab -e

运行该命令 打开任务编辑 在其中输入任务内容,然后Esc :wq保存退出

任务示例

0 0 * * * /www/siam/test.sh

前面的是运行周期的配置,后面的是sh脚本的路径,该方式一般需要自己编写sh脚本来执行

宝塔面板快速计划任务

如果我们使用宝塔面板当成运维工具,那么我们就可以很方便地添加计划任务了,如下图,宝塔中内置了挺多计划任务的类型,如定时请求URL,运行脚本,备份文件等等。

可视化配置,带给我们极大的便利,维护、添加都节约了很多的时间。

这也是为什么宝塔受到那么多人喜爱的原因之一吧。

宝塔面板计划任务的面板添加
取巧云监控定时执行
以上两种方式都需要服务器的权限,我们才可以管理定时任务,假设我们刚入门时使用的是虚拟主机,没有权限设置脚本运行,那么该如何实现这种功能呢?

这里记录了我以前学习时利用的一个小方案,大家可以在其中学习一下。

云监控,是很多云服务商提供的一项服务,它可以用来测试、分析接口或者网站的稳定性和执行效率。

我们可以在服务商的后台类似宝塔面板一样去添加任务,然后服务商就会按我们设置的频率,定期访问网址,获取网址的正确执行、时间等信息,记录到他们后台,提供给用户查看分析改进。

我们可以利用这种特性,由服务商向我们的服务发起请求,我们可以填写一个php脚本的url,在其中判断当前时间,如果当前时间周期已经到了你设置的时间,则执行下面的内容

同时因为云监控是不间断地发起(一般最细颗粒是30s) 如果不能重复运行的任务,我们需要及时地把任务标记为已经执行。

可以在本地写文件,当文件锁。

不同云监控服务商有不同的设置和服务提供,网上有挺多免费的。大家可以找一找,如果找不到好的,也可以联系我QQ交流一下。

现代化PHP

PHP发展了这么久,其实已经有了很大的改进,比如PHP5OOP特性的完善、PHP7的性能提高、Swoole生态的出现,让PHP能做的事越来越多,越做越好。

在当今环境中,我们可以使用SWOOLE常驻内存的特性完成很多事,

这里推荐一下EasySwoole这款基于Swoole环境的框架。

关于定时任务在EasySwoole框架中的文档地址点这里EasySwoole Crontab 定时器

常驻内存的程序,在服务器上后台稳定运行,

EasySwoole中提供了丰富的组件,比如传统PHPFPM环境很难解决的Mysql数据库连接池、协程Redis客户端、协程Http客户端、芒果DB客户端等等

还有我们这个主题有的一个定时任务的模块,下面看一小段demo代码

首先在主环境事件代码中开启定时任务

public static function mainServerCreate(EventRegister $register)
{
  // 开始一个定时任务计划
  Crontab::getInstance()->addTask(TaskOne::class);
}

定时任务的配置和内容

namespace App\Crontab;

use EasySwoole\EasySwoole\Crontab\AbstractCronTask;

class TaskOne extends AbstractCronTask
{

  public static function getRule(): string
  {
    // TODO: Implement getRule() method.
    // 定时周期 (每小时)
    return '@hourly';
  }

  public static function getTaskName(): string
  {
    // TODO: Implement getTaskName() method.
    // 定时任务名称
    return 'taskOne';
  }

  static function run(\swoole_server $server, int $taskId, int $fromWorkerId,$flags=null)
  {
    // 定时任务处理逻辑

    // 我们在这里执行拉取文件、对比处理、保存文件的逻辑就好了
    var_dump('run once per hour');
  }
}

其他问题

解决了定时执行的问题,那么下载文件和保存文件,我觉得应该都不会是很大的问题

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。

PHP 相关文章推荐
PHP IF ELSE简化/三元一次式的使用
Aug 22 PHP
抓取并下载CSS中所有图片文件的php代码
Sep 26 PHP
用PHP书写安全的脚本代码
Feb 05 PHP
PHP中获取文件扩展名的N种方法小结
Feb 27 PHP
Thinkphp微信公众号支付接口
Aug 04 PHP
利用PHP实现一个简单的用户登记表示例
Apr 25 PHP
详解PHP swoole process的使用方法
Aug 26 PHP
Laravel中encrypt和decrypt的实现方法
Sep 24 PHP
PHP中常见的密码处理方式和建议总结
Oct 14 PHP
PHP如何防止用户重复提交表单
Dec 09 PHP
PHP的垃圾回收机制代码实例讲解
Feb 27 PHP
tp5使用layui实现多个图片上传(带附件选择)的方法实例
Nov 17 PHP
php设计模式之工厂模式用法经典实例分析
Sep 20 #PHP
php设计模式之单例模式用法经典示例分析
Sep 20 #PHP
php数组和链表的区别总结
Sep 20 #PHP
php输出反斜杠的实例方法
Sep 19 #PHP
php实现session共享的实例方法
Sep 19 #PHP
php进行md5加密简单实例方法
Sep 19 #PHP
php解决安全问题的方法实例
Sep 19 #PHP
You might like
PHP的FTP学习(二)[转自奥索]
2006/10/09 PHP
php中的时间处理
2006/10/09 PHP
php连接微软MSSQL(sql server)完全攻略
2016/11/27 PHP
Mootools 图片展示插件(lightbox,ImageMenu)收集集合
2010/05/21 Javascript
从jquery的过滤器.filter()方法想到的
2013/09/29 Javascript
nodejs中使用monk访问mongodb
2014/07/06 NodeJs
JS实现点击按钮获取页面高度的方法
2015/11/02 Javascript
详解JS中Array对象扩展与String对象扩展
2016/01/07 Javascript
JS传值出现中文参数乱码的解决方法
2016/06/30 Javascript
Vue如何实现组件的源码解析
2017/06/08 Javascript
nodejs使用node-xlsx生成excel的方法示例
2019/08/22 NodeJs
layui数据表格 table.render 报错的解决方法
2019/09/29 Javascript
微信小程序新闻网站详情页实例代码
2020/01/10 Javascript
vue移动端下拉刷新和上滑加载
2020/10/27 Javascript
vue3.0中友好使用antdv示例详解
2021/01/05 Vue.js
多种类型jQuery网页验证码插件代码实例
2021/01/09 jQuery
python中文编码问题小结
2014/09/28 Python
python列出目录下指定文件与子目录的方法
2015/07/03 Python
pandas实现to_sql将DataFrame保存到数据库中
2019/07/03 Python
Python上下文管理器用法及实例解析
2019/11/11 Python
利用python实现.dcm格式图像转为.jpg格式
2020/01/13 Python
Python依赖包迁移到断网环境操作
2020/07/13 Python
anaconda3安装及jupyter环境配置全教程
2020/08/24 Python
python实现自动清理重复文件
2020/08/24 Python
python在linux环境下安装skimage的示例代码
2020/10/14 Python
css3 clip实现圆环进度条的示例代码
2018/02/07 HTML / CSS
CSS3 边框效果
2019/11/04 HTML / CSS
英国男女奢华内衣和泳装购物网站:Figleaves
2017/01/28 全球购物
Bally美国官网:经典瑞士鞋履、手袋及配饰奢侈品牌
2018/05/18 全球购物
Kickers鞋英国官网:男士、女士和儿童鞋
2021/03/08 全球购物
适用于所有创业者的创业计划书
2014/02/05 职场文书
数学教研活动总结
2014/07/02 职场文书
法院干警四风问题个人对照检查材料思想汇报
2014/10/07 职场文书
寒山寺导游词
2015/02/03 职场文书
公务员政审个人总结
2015/02/12 职场文书
销售员岗位职责范本
2015/04/11 职场文书