php定期拉取数据对比方法实例


Posted in PHP onSeptember 22, 2019

写在前面

今天在网上看帖子提问的时候,看到有人发表了一个提问

php下载远程的批量文件,每天一次,对比昨天和今天的文件,将旧文件替换成新文件

我们通过这个问题来分析讲解一下其中的知识点。

首先要解决的问题是:如何让程序每天自动执行一次脚本

php定时执行任务

关于定时执行,最常见的方法是利用系统级别自带的功能

  • linux ( crontab 定时任务命令) windows计划任务

这需要手动修改系统的任务文件,然后使其生效

手动在linux添加定时任务

# crontab -e

运行该命令 打开任务编辑 在其中输入任务内容,然后Esc :wq保存退出

任务示例

0 0 * * * /www/siam/test.sh

前面的是运行周期的配置,后面的是sh脚本的路径,该方式一般需要自己编写sh脚本来执行

宝塔面板快速计划任务

如果我们使用宝塔面板当成运维工具,那么我们就可以很方便地添加计划任务了,如下图,宝塔中内置了挺多计划任务的类型,如定时请求URL,运行脚本,备份文件等等。

可视化配置,带给我们极大的便利,维护、添加都节约了很多的时间。

这也是为什么宝塔受到那么多人喜爱的原因之一吧。

宝塔面板计划任务的面板添加
取巧云监控定时执行
以上两种方式都需要服务器的权限,我们才可以管理定时任务,假设我们刚入门时使用的是虚拟主机,没有权限设置脚本运行,那么该如何实现这种功能呢?

这里记录了我以前学习时利用的一个小方案,大家可以在其中学习一下。

云监控,是很多云服务商提供的一项服务,它可以用来测试、分析接口或者网站的稳定性和执行效率。

我们可以在服务商的后台类似宝塔面板一样去添加任务,然后服务商就会按我们设置的频率,定期访问网址,获取网址的正确执行、时间等信息,记录到他们后台,提供给用户查看分析改进。

我们可以利用这种特性,由服务商向我们的服务发起请求,我们可以填写一个php脚本的url,在其中判断当前时间,如果当前时间周期已经到了你设置的时间,则执行下面的内容

同时因为云监控是不间断地发起(一般最细颗粒是30s) 如果不能重复运行的任务,我们需要及时地把任务标记为已经执行。

可以在本地写文件,当文件锁。

不同云监控服务商有不同的设置和服务提供,网上有挺多免费的。大家可以找一找,如果找不到好的,也可以联系我QQ交流一下。

现代化PHP

PHP发展了这么久,其实已经有了很大的改进,比如PHP5OOP特性的完善、PHP7的性能提高、Swoole生态的出现,让PHP能做的事越来越多,越做越好。

在当今环境中,我们可以使用SWOOLE常驻内存的特性完成很多事,

这里推荐一下EasySwoole这款基于Swoole环境的框架。

关于定时任务在EasySwoole框架中的文档地址点这里EasySwoole Crontab 定时器

常驻内存的程序,在服务器上后台稳定运行,

EasySwoole中提供了丰富的组件,比如传统PHPFPM环境很难解决的Mysql数据库连接池、协程Redis客户端、协程Http客户端、芒果DB客户端等等

还有我们这个主题有的一个定时任务的模块,下面看一小段demo代码

首先在主环境事件代码中开启定时任务

public static function mainServerCreate(EventRegister $register)
{
  // 开始一个定时任务计划
  Crontab::getInstance()->addTask(TaskOne::class);
}

定时任务的配置和内容

namespace App\Crontab;

use EasySwoole\EasySwoole\Crontab\AbstractCronTask;

class TaskOne extends AbstractCronTask
{

  public static function getRule(): string
  {
    // TODO: Implement getRule() method.
    // 定时周期 (每小时)
    return '@hourly';
  }

  public static function getTaskName(): string
  {
    // TODO: Implement getTaskName() method.
    // 定时任务名称
    return 'taskOne';
  }

  static function run(\swoole_server $server, int $taskId, int $fromWorkerId,$flags=null)
  {
    // 定时任务处理逻辑

    // 我们在这里执行拉取文件、对比处理、保存文件的逻辑就好了
    var_dump('run once per hour');
  }
}

其他问题

解决了定时执行的问题,那么下载文件和保存文件,我觉得应该都不会是很大的问题

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。

PHP 相关文章推荐
十天学会php之第七天
Oct 09 PHP
php下批量挂马和批量清马代码
Feb 27 PHP
php将时间差转换为字符串提示
Sep 07 PHP
php调用dll的实例操作动画与代码分享
Aug 14 PHP
PHP 图片水印类代码
Aug 27 PHP
PHP中最容易忘记的一些知识点总结
Apr 28 PHP
destoon二次开发入门示例
Jun 20 PHP
PHP+JS实现大规模数据提交的方法
Jul 02 PHP
CentOS下PHP7的编译安装及MySQL的支持和一些常见问题的解决办法
Dec 17 PHP
浅谈PHP的反射机制
Dec 15 PHP
php正则提取html图片(img)src地址与任意属性的方法
Feb 08 PHP
php随机生成验证码,php随机生成数字,php随机生成数字加字母!
Apr 01 PHP
php设计模式之工厂模式用法经典实例分析
Sep 20 #PHP
php设计模式之单例模式用法经典示例分析
Sep 20 #PHP
php数组和链表的区别总结
Sep 20 #PHP
php输出反斜杠的实例方法
Sep 19 #PHP
php实现session共享的实例方法
Sep 19 #PHP
php进行md5加密简单实例方法
Sep 19 #PHP
php解决安全问题的方法实例
Sep 19 #PHP
You might like
PHP中GET变量的使用
2006/10/09 PHP
探讨:php中在foreach中使用foreach ($arr as &$value) 这种类型的解释
2013/06/24 PHP
单点登录 Ucenter示例分析
2013/10/29 PHP
PHP接入支付宝接口失效流程详解
2020/11/10 PHP
js判断上传文件的类型和大小示例代码
2013/10/18 Javascript
jQuery 的全选(全非选)即取得被选中的值使用介绍
2013/11/12 Javascript
JavaScript中的undefined学习总结
2013/11/30 Javascript
使用jQuery快速解决input中placeholder值在ie中无法支持的问题
2014/01/02 Javascript
利用jquery.qrcode在页面上生成二维码且支持中文
2014/02/12 Javascript
jquery实现图片放大镜功能
2015/11/23 Javascript
第六章之辅组类与响应式工具
2016/04/25 Javascript
基于BootStrap环境写jQuery tabs插件
2016/07/12 Javascript
Javascript实现前端简单的路由实例
2016/09/11 Javascript
JS绘制微信小程序画布时钟
2016/12/24 Javascript
requirejs按需加载angularjs文件实例
2017/06/08 Javascript
JS库之wow.js使用方法
2017/09/14 Javascript
JS基于for语句编写的九九乘法表示例
2018/01/04 Javascript
vueJs实现DOM加载完之后自动下拉到底部的实例代码
2018/08/31 Javascript
JS实现数组去重,显示重复元素及个数的方法示例
2019/01/21 Javascript
Angular7创建项目、组件、服务以及服务的使用
2019/02/19 Javascript
JavaScript用document.write()输出换行的示例代码
2020/11/26 Javascript
Python获取当前页面内所有链接的四种方法对比分析
2017/08/19 Python
matplotlib在python上绘制3D散点图实例详解
2017/12/09 Python
pycharm 配置远程解释器的方法
2018/10/28 Python
基于python3 pyQt5 QtDesignner实现窗口化猜数字游戏功能
2019/07/15 Python
python Django 创建应用过程图示详解
2019/07/29 Python
pytorch 预训练层的使用方法
2019/08/20 Python
关于python3中setup.py小概念解析
2019/08/22 Python
Python远程开发环境部署与调试过程图解
2019/12/09 Python
pytorch 利用lstm做mnist手写数字识别分类的实例
2020/01/10 Python
django rest framework使用django-filter用法
2020/07/15 Python
使用python-cv2实现视频的分解与合成的示例代码
2020/10/26 Python
详解移动端h5页面根据屏幕适配的四种方案
2020/04/15 HTML / CSS
优秀教师事迹简介
2014/02/02 职场文书
PostgreSQL数据库创建并使用视图以及子查询
2022/04/11 PostgreSQL
Android移动应用开发指南之六种布局详解
2022/09/23 Java/Android