设为首页 收藏本站
查看: 640|回复: 0

[经验分享] 用PHP实现守护进程任务后台运行与多线程(php-resque使用说明)

[复制链接]

尚未签到

发表于 2018-12-18 13:08:30 | 显示全部楼层 |阅读模式
消息队列处理后台任务带来的问题
  项目中经常会有后台运行任务的需求,比如发送邮件时,因为要连接邮件服务器,往往需要5-10秒甚至更长时间,如果能先给用户一个成功的提示信息,然后在后台慢慢处理发送邮件的操作,显然会有更好的用户体验。
  为了实现类似的需求,Web项目中一般的实现方法是使用消息队列(Message Queue),比如MemcacheQ,RabbitMQ等等,都是很著名的产品。
  消息队列说白了就是一个最简单的先进先出队列,队列的一个成员就是一段文本。正是因为消息队列实在太简单了,当拿着消息队列时,反而有点无从下手的感觉,因为这仅仅一个发送邮件的任务,就会引申出很多问题:

  •   消息队列只能存储字符串类型的数据,如何将一个发送邮件这样的“任务”,转换为消息队列中的一个“消息”?
  •   消息队列只负责数据的存放与进出,本身不能执行任何程序,那么我们要如何从消息队列中一个一个取出数据,再将这些数据转化回任务并执行。
  •   我们无法预知消息队列何时会有数据产生,所以我们的任务执行程序还需要具备监控消息队列的能力,也就是一个常驻后台的守护进程。
  •   一般的Web应用PHP都以cgi方式运行,无法常驻内存。我们知道php还有cli模式,那么守护进程是否能以php cli来实现,效率如何?
  •   当守护进程运行时,Web应用能否与后台守护进程交互,实现开启/杀死进程的功能以及获得进程的运行状态?
Resque对后台任务的设计与角色划分
  对以上这些问题,目前为止我能找到的最好答案,并不是来自php,而是来自Ruby的项目Resque,正是由于Resque清晰简单的解决了后台任务带来的一系列问题,Resque的设计也被Clone到Python、php、NodeJs等语言:比如Python下的pyres以及PHP下的php-resque等等,这里有各种语言版本的Resque实现,而在本篇日志里,我们当然要以PHP版本为例来说明如何用php-resque运行一个后台任务,可能一些细节方面会与Ruby版有出入,但是本文中以php版为准。
  Resque是这样解决这些问题的:
后台任务的角色划分
  其实从上面的问题已经可以看出,只靠一个消息队列是无法解决所有问题的,需要新的角色介入。在Resque中,一个后台任务被抽象为由三种角色共同完成:

  •   Job | 任务 : 一个Job就是一个需要在后台完成的任务,比如本文举例的发送邮件,就可以抽象为一个Job。在Resque中一个Job就是一个Class。
  •   Queue | 队列 : 也就是上文的消息队列,在Resque中,队列则是由Redis实现的。Resque还提供了一个简单的队列管理器,可以实现将Job插入/取出队列等功能。
  •   Worker | 执行者 : 负责从队列中取出Job并执行,可以以守护进程的方式运行在后台。
  那么基于这个划分,一个后台任务在Resque下的基本流程是这样的:

  •   将一个后台任务编写为一个独立的Class,这个Class就是一个Job。

  •   在需要使用后台程序的地方,系统将Job>
  •   以命令行方式开启一个Worker,并通过参数指定Worker所需要处理的队列。
  •   Worker作为守护进程运行,并且定时检查队列。

  •   当队列中有Job时,Worker取出Job并运行,即实例化Job>
  至此就可以完整的运行完一个后台任务。
  在Resque中,还有一个很重要的设计:一个Worker,可以处理一个队列,也可以处理很多个队列,并且可以通过增加Worker的进程/线程数来加快队列的执行速度。
php-resque的安装
  需要提前说明的是,由于涉及到进程的开辟与管理,php-resque使用了php的PCNTL函数,所以只能在Linux下运行,并且需要php编译PCNTL函数。如果希望用Windows做同样的工作,那么可以去找找Resque的其他语言版本,php在Windows下非常不适合做后台任务。
  以Ubuntu12.04LTS为例,Ubuntu用apt安装的php已经默认编译了PCNTL函数,无需任何配置,以下指令均为root帐号
安装Redis
apt-get install redis-server安装Composer
apt-get install curl  
cd /usr/local/bin
  
curl -s http://getcomposer.org/installer | phpchmod a+x composer.phar
  
alias composer='/usr/local/bin/composer.phar'
使用Composer安装php-resque
  假设web目录在/opt/htdocs
apt-get install git git-core  
cd /opt/htdocs
  
git clone git://github.com/chrisboulton/php-resque.gitcd php-resque
  
composer install
php-resque的使用
编写一个Worker
  其实php-resque已经给出了简单的例子, demo/job.php文件就是一个最简单的Job:
class PHP_Job{  
    public function perform()
  
    {
  
        sleep(120);
  
        fwrite(STDOUT, 'Hello!');
  
    }
  
}
  这个Job就是在120秒后向STDOUT输出字符Hello!
  在Resque的设计中,一个Job必须存在一个perform方法,Worker则会自动运行这个方法。
将Job插入队列
  php-resque也给出了最简单的插入队列实现 demo/queue.php:
if(empty($argv[1])) {    die('Specify the name of a job to add. e.g, php queue.php PHP_Job');  
}require __DIR__ . '/init.php';
  
date_default_timezone_set('GMT');
  
Resque::setBackend('127.0.0.1:6379');$args = array(    'time' => time(),    'array' => array(        'test' => 'test',
  
    ),
  
);$jobId = Resque::enqueue('default', $argv[1], $args, true);echo "Queued job ".$jobId."\n\n";

  在这个例子中,queue.php需要以cli方式运行,将cli接收到的第一个参数作为Job名称,插入名为'default'的队列,同时向屏幕输出刚才插入队列的Job>php demo/queue.php PHP_Job  结果可以看到屏幕上输出:
Queued job b1f01038e5e833d24b46271a0e31f6d6
  即Job已经添加成功。注意这里的Job名称与我们编写的Job>查看Job运行情况
  php-resque同样提供了查看Job运行状态的例子,直接运行:
php demo/check_status.php b1f01038e5e833d24b46271a0e31f6d6  可以看到输出为:
Tracking status of b1f01038e5e833d24b46271a0e31f6d6. Press [break] to stop.  
Status of b1f01038e5e833d24b46271a0e31f6d6 is: 1
  我们刚才创建的Job状态为1。在Resque中,一个Job有以下4种状态:

  •   Resque_Job_Status::STATUS_WAITING = 1; (等待)
  •   Resque_Job_Status::STATUS_RUNNING = 2; (正在执行)
  •   Resque_Job_Status::STATUS_FAILED = 3; (失败)
  •   Resque_Job_Status::STATUS_COMPLETE = 4; (结束)
  因为没有Worker运行,所以刚才创建的Job还是等待状态。
运行Worker
  这次我们直接编写demo/resque.php:

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-652882-1-1.html 上篇帖子: lnmp架构下php安全配置 下篇帖子: php一键环境包xammp 安装 phpDocumentor
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表