php定期拉取数据对比方法实例


Posted in PHP onSeptember 22, 2019

写在前面

今天在网上看帖子提问的时候,看到有人发表了一个提问

php下载远程的批量文件,每天一次,对比昨天和今天的文件,将旧文件替换成新文件

我们通过这个问题来分析讲解一下其中的知识点。

首先要解决的问题是:如何让程序每天自动执行一次脚本

php定时执行任务

关于定时执行,最常见的方法是利用系统级别自带的功能

  • linux ( crontab 定时任务命令) windows计划任务

这需要手动修改系统的任务文件,然后使其生效

手动在linux添加定时任务

# crontab -e

运行该命令 打开任务编辑 在其中输入任务内容,然后Esc :wq保存退出

任务示例

0 0 * * * /www/siam/test.sh

前面的是运行周期的配置,后面的是sh脚本的路径,该方式一般需要自己编写sh脚本来执行

宝塔面板快速计划任务

如果我们使用宝塔面板当成运维工具,那么我们就可以很方便地添加计划任务了,如下图,宝塔中内置了挺多计划任务的类型,如定时请求URL,运行脚本,备份文件等等。

可视化配置,带给我们极大的便利,维护、添加都节约了很多的时间。

这也是为什么宝塔受到那么多人喜爱的原因之一吧。

宝塔面板计划任务的面板添加
取巧云监控定时执行
以上两种方式都需要服务器的权限,我们才可以管理定时任务,假设我们刚入门时使用的是虚拟主机,没有权限设置脚本运行,那么该如何实现这种功能呢?

这里记录了我以前学习时利用的一个小方案,大家可以在其中学习一下。

云监控,是很多云服务商提供的一项服务,它可以用来测试、分析接口或者网站的稳定性和执行效率。

我们可以在服务商的后台类似宝塔面板一样去添加任务,然后服务商就会按我们设置的频率,定期访问网址,获取网址的正确执行、时间等信息,记录到他们后台,提供给用户查看分析改进。

我们可以利用这种特性,由服务商向我们的服务发起请求,我们可以填写一个php脚本的url,在其中判断当前时间,如果当前时间周期已经到了你设置的时间,则执行下面的内容

同时因为云监控是不间断地发起(一般最细颗粒是30s) 如果不能重复运行的任务,我们需要及时地把任务标记为已经执行。

可以在本地写文件,当文件锁。

不同云监控服务商有不同的设置和服务提供,网上有挺多免费的。大家可以找一找,如果找不到好的,也可以联系我QQ交流一下。

现代化PHP

PHP发展了这么久,其实已经有了很大的改进,比如PHP5OOP特性的完善、PHP7的性能提高、Swoole生态的出现,让PHP能做的事越来越多,越做越好。

在当今环境中,我们可以使用SWOOLE常驻内存的特性完成很多事,

这里推荐一下EasySwoole这款基于Swoole环境的框架。

关于定时任务在EasySwoole框架中的文档地址点这里EasySwoole Crontab 定时器

常驻内存的程序,在服务器上后台稳定运行,

EasySwoole中提供了丰富的组件,比如传统PHPFPM环境很难解决的Mysql数据库连接池、协程Redis客户端、协程Http客户端、芒果DB客户端等等

还有我们这个主题有的一个定时任务的模块,下面看一小段demo代码

首先在主环境事件代码中开启定时任务

public static function mainServerCreate(EventRegister $register)
{
  // 开始一个定时任务计划
  Crontab::getInstance()->addTask(TaskOne::class);
}

定时任务的配置和内容

namespace App\Crontab;

use EasySwoole\EasySwoole\Crontab\AbstractCronTask;

class TaskOne extends AbstractCronTask
{

  public static function getRule(): string
  {
    // TODO: Implement getRule() method.
    // 定时周期 (每小时)
    return '@hourly';
  }

  public static function getTaskName(): string
  {
    // TODO: Implement getTaskName() method.
    // 定时任务名称
    return 'taskOne';
  }

  static function run(\swoole_server $server, int $taskId, int $fromWorkerId,$flags=null)
  {
    // 定时任务处理逻辑

    // 我们在这里执行拉取文件、对比处理、保存文件的逻辑就好了
    var_dump('run once per hour');
  }
}

其他问题

解决了定时执行的问题,那么下载文件和保存文件,我觉得应该都不会是很大的问题

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。

PHP 相关文章推荐
从网上搜到的phpwind 0day的代码
Dec 07 PHP
用PHP程序实现支持页面后退的两种方法
Jun 30 PHP
elgg 获取文件图标地址的方法
Mar 20 PHP
php下通过curl抓取yahoo boss 搜索结果的实现代码
Jun 10 PHP
php空间不支持socket但支持curl时recaptcha的用法
Nov 07 PHP
php实现将数组转换为XML的方法
Mar 09 PHP
PHP简单生成缩略图相册的方法
Jul 29 PHP
php中替换字符串函数strtr()和str_repalce()的用法与区别
Nov 25 PHP
浅谈php中curl、fsockopen的应用
Dec 10 PHP
php中照片旋转 (orientation) 问题的正确处理
Feb 16 PHP
php中输出json对象的值(实现方法)
Mar 07 PHP
php操作redis常见方法示例【key与value操作】
Apr 14 PHP
php设计模式之工厂模式用法经典实例分析
Sep 20 #PHP
php设计模式之单例模式用法经典示例分析
Sep 20 #PHP
php数组和链表的区别总结
Sep 20 #PHP
php输出反斜杠的实例方法
Sep 19 #PHP
php实现session共享的实例方法
Sep 19 #PHP
php进行md5加密简单实例方法
Sep 19 #PHP
php解决安全问题的方法实例
Sep 19 #PHP
You might like
php读取javascript设置的cookies的代码
2010/04/12 PHP
php+MySQL判断update语句是否执行成功的方法
2014/08/28 PHP
thinkphp连贯操作实例分析
2014/11/22 PHP
php使用Image Magick将PDF文件转换为JPG文件的方法
2015/04/01 PHP
老生常谈PHP位运算的用途
2017/03/12 PHP
php实现的AES加密类定义与用法示例
2018/01/29 PHP
document.open() 与 document.write()的区别
2007/08/13 Javascript
JavaScript数据结构与算法之栈详解
2015/03/12 Javascript
JS实现可编辑的后台管理菜单功能【附demo源码下载】
2016/09/13 Javascript
js实现非常棒的弹出div
2016/10/06 Javascript
jQuery绑定事件的四种方式介绍
2016/10/31 Javascript
ionic2打包android时gradle无法下载的解决方法
2017/04/05 Javascript
React Native 自定义下拉刷新上拉加载的列表的示例
2018/03/01 Javascript
原生JS进行前后端同构
2018/04/22 Javascript
基于vue中对鼠标划过事件的处理方式详解
2018/08/22 Javascript
原生js检测页面加载完毕的实例
2018/09/11 Javascript
json_decode 索引为数字时自动排序问题解决方法
2020/03/28 Javascript
操作Windows注册表的简单的Python程序制作教程
2015/04/07 Python
python简单获取本机计算机名和IP地址的方法
2015/06/03 Python
tensorflow学习笔记之mnist的卷积神经网络实例
2018/04/15 Python
对Python中Iterator和Iterable的区别详解
2018/10/18 Python
安装python及pycharm的教程图解
2019/10/10 Python
pytorch进行上采样的种类实例
2020/02/18 Python
windows+vscode安装paddleOCR运行环境的步骤
2020/11/11 Python
Python基于template实现字符串替换
2020/11/27 Python
HTML5和CSS3让网页设计提升到下一个高度
2009/08/14 HTML / CSS
使用CSS3的font-face字体嵌入样式的方法讲解
2016/05/13 HTML / CSS
简单介绍HTML5中audio标签的使用
2015/09/24 HTML / CSS
英国水族馆和池塘用品购物网站:Warehouse Aquatics
2019/08/29 全球购物
方正Java笔试题
2014/07/03 面试题
会计毕业自我鉴定
2014/02/05 职场文书
公路绿化方案
2014/05/12 职场文书
我为党旗添光彩演讲稿
2014/09/10 职场文书
2014年党员自我评价材料
2014/09/22 职场文书
手把手教你怎么用Python实现zip文件密码的破解
2021/05/27 Python
html5调用摄像头实例代码
2021/06/28 HTML / CSS