php定期拉取数据对比方法实例


Posted in PHP onSeptember 22, 2019

写在前面

今天在网上看帖子提问的时候,看到有人发表了一个提问

php下载远程的批量文件,每天一次,对比昨天和今天的文件,将旧文件替换成新文件

我们通过这个问题来分析讲解一下其中的知识点。

首先要解决的问题是:如何让程序每天自动执行一次脚本

php定时执行任务

关于定时执行,最常见的方法是利用系统级别自带的功能

  • linux ( crontab 定时任务命令) windows计划任务

这需要手动修改系统的任务文件,然后使其生效

手动在linux添加定时任务

# crontab -e

运行该命令 打开任务编辑 在其中输入任务内容,然后Esc :wq保存退出

任务示例

0 0 * * * /www/siam/test.sh

前面的是运行周期的配置,后面的是sh脚本的路径,该方式一般需要自己编写sh脚本来执行

宝塔面板快速计划任务

如果我们使用宝塔面板当成运维工具,那么我们就可以很方便地添加计划任务了,如下图,宝塔中内置了挺多计划任务的类型,如定时请求URL,运行脚本,备份文件等等。

可视化配置,带给我们极大的便利,维护、添加都节约了很多的时间。

这也是为什么宝塔受到那么多人喜爱的原因之一吧。

宝塔面板计划任务的面板添加
取巧云监控定时执行
以上两种方式都需要服务器的权限,我们才可以管理定时任务,假设我们刚入门时使用的是虚拟主机,没有权限设置脚本运行,那么该如何实现这种功能呢?

这里记录了我以前学习时利用的一个小方案,大家可以在其中学习一下。

云监控,是很多云服务商提供的一项服务,它可以用来测试、分析接口或者网站的稳定性和执行效率。

我们可以在服务商的后台类似宝塔面板一样去添加任务,然后服务商就会按我们设置的频率,定期访问网址,获取网址的正确执行、时间等信息,记录到他们后台,提供给用户查看分析改进。

我们可以利用这种特性,由服务商向我们的服务发起请求,我们可以填写一个php脚本的url,在其中判断当前时间,如果当前时间周期已经到了你设置的时间,则执行下面的内容

同时因为云监控是不间断地发起(一般最细颗粒是30s) 如果不能重复运行的任务,我们需要及时地把任务标记为已经执行。

可以在本地写文件,当文件锁。

不同云监控服务商有不同的设置和服务提供,网上有挺多免费的。大家可以找一找,如果找不到好的,也可以联系我QQ交流一下。

现代化PHP

PHP发展了这么久,其实已经有了很大的改进,比如PHP5OOP特性的完善、PHP7的性能提高、Swoole生态的出现,让PHP能做的事越来越多,越做越好。

在当今环境中,我们可以使用SWOOLE常驻内存的特性完成很多事,

这里推荐一下EasySwoole这款基于Swoole环境的框架。

关于定时任务在EasySwoole框架中的文档地址点这里EasySwoole Crontab 定时器

常驻内存的程序,在服务器上后台稳定运行,

EasySwoole中提供了丰富的组件,比如传统PHPFPM环境很难解决的Mysql数据库连接池、协程Redis客户端、协程Http客户端、芒果DB客户端等等

还有我们这个主题有的一个定时任务的模块,下面看一小段demo代码

首先在主环境事件代码中开启定时任务

public static function mainServerCreate(EventRegister $register)
{
  // 开始一个定时任务计划
  Crontab::getInstance()->addTask(TaskOne::class);
}

定时任务的配置和内容

namespace App\Crontab;

use EasySwoole\EasySwoole\Crontab\AbstractCronTask;

class TaskOne extends AbstractCronTask
{

  public static function getRule(): string
  {
    // TODO: Implement getRule() method.
    // 定时周期 (每小时)
    return '@hourly';
  }

  public static function getTaskName(): string
  {
    // TODO: Implement getTaskName() method.
    // 定时任务名称
    return 'taskOne';
  }

  static function run(\swoole_server $server, int $taskId, int $fromWorkerId,$flags=null)
  {
    // 定时任务处理逻辑

    // 我们在这里执行拉取文件、对比处理、保存文件的逻辑就好了
    var_dump('run once per hour');
  }
}

其他问题

解决了定时执行的问题,那么下载文件和保存文件,我觉得应该都不会是很大的问题

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。

PHP 相关文章推荐
PHP 和 MySQL 基础教程(二)
Oct 09 PHP
PHP下一个非常全面获取图象信息的函数
Nov 20 PHP
PHP 强制下载文件代码
Oct 24 PHP
php三维数组去重(示例代码)
Nov 26 PHP
PHP易混淆函数的区别及用法汇总
Nov 22 PHP
thinkphp实现163、QQ邮箱收发邮件的方法
Dec 18 PHP
php简单解析mysqli查询结果的方法(2种方法)
Jun 29 PHP
Yii安装与使用Excel扩展的方法
Jul 13 PHP
利用php生成验证码
Feb 23 PHP
php 广告点击统计代码(php+mysql)
Feb 21 PHP
PHP7新特性之抽象语法树(AST)带来的变化详解
Jul 17 PHP
php实现QQ小程序发送模板消息功能
Sep 18 PHP
php设计模式之工厂模式用法经典实例分析
Sep 20 #PHP
php设计模式之单例模式用法经典示例分析
Sep 20 #PHP
php数组和链表的区别总结
Sep 20 #PHP
php输出反斜杠的实例方法
Sep 19 #PHP
php实现session共享的实例方法
Sep 19 #PHP
php进行md5加密简单实例方法
Sep 19 #PHP
php解决安全问题的方法实例
Sep 19 #PHP
You might like
最新用php获取谷歌PR值算法,附上php查询PR值代码示例
2011/12/25 PHP
php中使用cookie来保存用户登录信息的实现代码
2012/03/08 PHP
php 创建以UNIX时间戳命名的文件夹(示例代码)
2014/03/08 PHP
nginx+thinkphp下解决不支持pathinfo模式
2015/07/01 PHP
浅谈PHP接入(第三方登录)QQ登录 OAuth2.0 过程中遇到的坑
2017/10/13 PHP
PHP+MySQL实现输入页码跳转到指定页面功能示例
2018/06/01 PHP
Laravel 数据库加密及数据库表前缀配置方法
2019/10/10 PHP
浅谈javascript的数据类型检测
2010/07/10 Javascript
jQuery.clean使用方法及思路分析
2013/01/07 Javascript
jquery统计输入文字的个数并对其进行判断
2014/01/07 Javascript
JS不能跨域借助jquery获取IP地址的方法
2014/08/20 Javascript
js编写三级联动简单案例
2016/12/21 Javascript
JavaScript中匿名函数的递归调用
2017/01/22 Javascript
用file标签实现多图文件上传预览
2017/02/14 Javascript
详解在Angularjs中ui-sref和$state.go如何传递参数
2017/04/24 Javascript
jQuery实现动态控制页面元素的方法分析
2017/12/20 jQuery
vue2.0+koa2+mongodb实现注册登录
2018/04/10 Javascript
Nodejs 发布自己的npm包并制作成命令行工具的实例讲解
2018/05/15 NodeJs
Vue实现自定义下拉菜单功能
2018/07/16 Javascript
vue构建动态表单的方法示例
2018/09/22 Javascript
Vue 理解之白话 getter/setter详解
2019/04/16 Javascript
html2canvas属性和使用方法以及如何使用html2canvas将HTML内容写入Canvas生成图片
2020/01/12 Javascript
jQuery实现简单评论功能
2020/08/19 jQuery
vue.js+element 默认提示中英文操作
2020/11/11 Javascript
python3+PyQt5泛型委托详解
2018/04/24 Python
Python(Django)项目与Apache的管理交互的方法
2018/05/16 Python
Python Pandas 箱线图的实现
2019/07/23 Python
Python 中的 import 机制之实现远程导入模块
2019/10/29 Python
施华洛世奇英国官网:SWAROVSKI英国
2017/03/13 全球购物
优衣库美国官网:UNIQLO美国
2018/04/14 全球购物
数以千计的折扣工业产品:ESE Direct
2018/05/20 全球购物
项目施工员岗位职责
2014/03/09 职场文书
2015中学教师个人工作总结
2015/07/22 职场文书
2016庆祝国庆67周年宣传语
2015/11/25 职场文书
spring cloud 配置中心native配置方式
2021/09/25 Java/Android
使用scrapy实现增量式爬取方式
2022/06/21 Python