php定期拉取数据对比方法实例


Posted in PHP onSeptember 22, 2019

写在前面

今天在网上看帖子提问的时候,看到有人发表了一个提问

php下载远程的批量文件,每天一次,对比昨天和今天的文件,将旧文件替换成新文件

我们通过这个问题来分析讲解一下其中的知识点。

首先要解决的问题是:如何让程序每天自动执行一次脚本

php定时执行任务

关于定时执行,最常见的方法是利用系统级别自带的功能

  • linux ( crontab 定时任务命令) windows计划任务

这需要手动修改系统的任务文件,然后使其生效

手动在linux添加定时任务

# crontab -e

运行该命令 打开任务编辑 在其中输入任务内容,然后Esc :wq保存退出

任务示例

0 0 * * * /www/siam/test.sh

前面的是运行周期的配置,后面的是sh脚本的路径,该方式一般需要自己编写sh脚本来执行

宝塔面板快速计划任务

如果我们使用宝塔面板当成运维工具,那么我们就可以很方便地添加计划任务了,如下图,宝塔中内置了挺多计划任务的类型,如定时请求URL,运行脚本,备份文件等等。

可视化配置,带给我们极大的便利,维护、添加都节约了很多的时间。

这也是为什么宝塔受到那么多人喜爱的原因之一吧。

宝塔面板计划任务的面板添加
取巧云监控定时执行
以上两种方式都需要服务器的权限,我们才可以管理定时任务,假设我们刚入门时使用的是虚拟主机,没有权限设置脚本运行,那么该如何实现这种功能呢?

这里记录了我以前学习时利用的一个小方案,大家可以在其中学习一下。

云监控,是很多云服务商提供的一项服务,它可以用来测试、分析接口或者网站的稳定性和执行效率。

我们可以在服务商的后台类似宝塔面板一样去添加任务,然后服务商就会按我们设置的频率,定期访问网址,获取网址的正确执行、时间等信息,记录到他们后台,提供给用户查看分析改进。

我们可以利用这种特性,由服务商向我们的服务发起请求,我们可以填写一个php脚本的url,在其中判断当前时间,如果当前时间周期已经到了你设置的时间,则执行下面的内容

同时因为云监控是不间断地发起(一般最细颗粒是30s) 如果不能重复运行的任务,我们需要及时地把任务标记为已经执行。

可以在本地写文件,当文件锁。

不同云监控服务商有不同的设置和服务提供,网上有挺多免费的。大家可以找一找,如果找不到好的,也可以联系我QQ交流一下。

现代化PHP

PHP发展了这么久,其实已经有了很大的改进,比如PHP5OOP特性的完善、PHP7的性能提高、Swoole生态的出现,让PHP能做的事越来越多,越做越好。

在当今环境中,我们可以使用SWOOLE常驻内存的特性完成很多事,

这里推荐一下EasySwoole这款基于Swoole环境的框架。

关于定时任务在EasySwoole框架中的文档地址点这里EasySwoole Crontab 定时器

常驻内存的程序,在服务器上后台稳定运行,

EasySwoole中提供了丰富的组件,比如传统PHPFPM环境很难解决的Mysql数据库连接池、协程Redis客户端、协程Http客户端、芒果DB客户端等等

还有我们这个主题有的一个定时任务的模块,下面看一小段demo代码

首先在主环境事件代码中开启定时任务

public static function mainServerCreate(EventRegister $register)
{
  // 开始一个定时任务计划
  Crontab::getInstance()->addTask(TaskOne::class);
}

定时任务的配置和内容

namespace App\Crontab;

use EasySwoole\EasySwoole\Crontab\AbstractCronTask;

class TaskOne extends AbstractCronTask
{

  public static function getRule(): string
  {
    // TODO: Implement getRule() method.
    // 定时周期 (每小时)
    return '@hourly';
  }

  public static function getTaskName(): string
  {
    // TODO: Implement getTaskName() method.
    // 定时任务名称
    return 'taskOne';
  }

  static function run(\swoole_server $server, int $taskId, int $fromWorkerId,$flags=null)
  {
    // 定时任务处理逻辑

    // 我们在这里执行拉取文件、对比处理、保存文件的逻辑就好了
    var_dump('run once per hour');
  }
}

其他问题

解决了定时执行的问题,那么下载文件和保存文件,我觉得应该都不会是很大的问题

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。

PHP 相关文章推荐
攻克CakePHP系列二 表单数据显示
Oct 22 PHP
php 连接mssql数据库 初学php笔记
Mar 01 PHP
php中使用ExcelFileParser处理excel获得数据(可作批量导入到数据库使用)
Aug 21 PHP
php获取post中的json数据的实现方法
Jun 08 PHP
pdo中使用参数化查询sql
Aug 11 PHP
判断PHP数组是否为空的代码
Sep 08 PHP
PHP UTF8中文字符截断函数代码
Sep 11 PHP
PHP 5.3新增魔术方法__invoke概述
Jul 23 PHP
PHP中使用hidef扩展代替define提高性能
Apr 09 PHP
PHP7正式版测试,性能惊艳!
Dec 08 PHP
关于PHP中字符串与多进制转换函数的实例代码
Nov 03 PHP
解决在laravel中auth建立时候遇到的问题
Oct 15 PHP
php设计模式之工厂模式用法经典实例分析
Sep 20 #PHP
php设计模式之单例模式用法经典示例分析
Sep 20 #PHP
php数组和链表的区别总结
Sep 20 #PHP
php输出反斜杠的实例方法
Sep 19 #PHP
php实现session共享的实例方法
Sep 19 #PHP
php进行md5加密简单实例方法
Sep 19 #PHP
php解决安全问题的方法实例
Sep 19 #PHP
You might like
thinkphp的c方法使用示例
2014/02/24 PHP
php获取CSS文件中图片地址并下载到本地的方法
2014/12/02 PHP
超级简单的图片防盗(HTML),好用
2007/04/08 Javascript
JS 实现Json查询的方法实例
2013/04/12 Javascript
js 中的switch表达式使用示例
2020/06/03 Javascript
iframe父页面获取子页面参数的方法
2014/02/21 Javascript
jquery 隐藏与显示tr标签示例代码
2014/06/06 Javascript
把文本中的URL地址转换为可点击链接的JavaScript、PHP自定义函数
2014/07/29 Javascript
js控制输入框获得和失去焦点时状态显示的方法
2015/01/30 Javascript
JS实现Fisheye效果动感放大菜单代码
2015/10/21 Javascript
easyui中combotree循环获取父节点至根节点并输出路径实现方法
2016/11/10 Javascript
Vue.js系列之项目结构说明(2)
2017/01/03 Javascript
Html5 js实现手风琴效果
2020/04/17 Javascript
react脚手架如何配置less和ant按需加载的方法步骤
2018/11/28 Javascript
浅谈javascript中的prototype和__proto__的理解
2019/04/07 Javascript
Python中for循环详解
2014/01/17 Python
在Windows8上的搭建Python和Django环境
2014/07/03 Python
python操作mysql中文显示乱码的解决方法
2014/10/11 Python
浅谈Python中的可变对象和不可变对象
2017/07/07 Python
Python实现读取字符串按列分配后按行输出示例
2018/04/17 Python
Python视频爬虫实现下载头条视频功能示例
2018/05/07 Python
Python之列表实现栈的工作功能
2019/01/28 Python
python从子线程中获得返回值的方法
2019/01/30 Python
python反编译学习之字节码详解
2019/05/19 Python
用Python实现校园通知更新提醒功能
2019/11/23 Python
Python opencv相机标定实现原理及步骤详解
2020/04/09 Python
python 实现aes256加密
2020/11/27 Python
马德里竞技官方网上商店:Atletico Madrid Shop
2019/03/31 全球购物
外语专业毕业生个人的自荐信
2013/11/19 职场文书
物流仓管员岗位职责
2013/12/04 职场文书
加拿大探亲邀请信
2014/01/28 职场文书
原来实习报告是这样写的呀!
2019/07/03 职场文书
导游词之大雁塔景区
2019/09/17 职场文书
创业计划书之都市休闲农庄
2019/12/28 职场文书
MySQL系列之十五 MySQL常用配置和性能压力测试
2021/07/02 MySQL
SQL SERVER存储过程用法详解
2022/02/24 SQL Server