Python如何快速实现分布式任务


Posted in Python onJuly 06, 2017

深入读了读python的官方文档,发觉Python自带的multiprocessing模块有很多预制的接口可以方便的实现多个主机之间的通讯,进而实现典型的生产者-消费者模式的分布式任务架构。

之前,为了在Python中实现生产者-消费者模式,往往就会选择一个额外的队列系统,比如rabbitMQ之类。此外,你有可能还要设计一套任务对象的序列化方式以便塞入队列。如果没有队列的支持,那不排除有些同学不得不从socket服务器做起,直接跟TCP/IP打起交道来。

其实multiprocessing.managers中有个BaseManager就为开发者提供了这样一个快速接口。

我们假定的场景是1个生产者(producer.py)+8个消费者(worker.py)的系统,还有一个中央节点负责协调(server.py)实现如下:

server.py

from multiprocessing.managers import BaseManager
import Queue

queue = Queue.Queue() #初始化一个Q,用于消息传递
class QueueManager(BaseManager):
  pass

QueueManager.register('get_queue', callable=lambda:queue) # 在系统中发布get_queue这个业务

if __name__ == '__main__':
  m = QueueManager(address=('10.239.85.193', 50000),authkey='abr' )
 # 监听所有10.239.85.193的50000口
  s = m.get_server()
  s.serve_forever()

worker.py

from multiprocessing.managers import BaseManager
from multiprocessing import Pool


class QueueManager(BaseManager):
 pass

QueueManager.register('get_queue') 

def feb(i): #经典的'山羊增殖'
  if i < 2: return 1
  if i < 5 : return feb(i-1) + feb(i-2)
  return feb(i-1) + feb(i-2) - feb(i-5)

def worker(i): 
  m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')
#连接server
  m.connect()
  while True:
    queue = m.get_queue()
# 获取Q
   c = queue.get()
 print feb(c)

if __name__ == '__main__':

  p = Pool(8) # 分进程启动8个worker
  p.map(worker, range(8))
producer.py

from multiprocessing.managers import BaseManager


class QueueManager(BaseManager):
  pass
QueueManager.register('get_queue')


if __name__ == '__main__':
 m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')
 m.connect()
 i = 0
 while True:
   queue = m.get_queue()
   queue.put(48)

   i+=1

系统会直接将Queue() 对象中的数据直接封装后通过TCP 50000端口在主机之间传递。不过需要注意的是,由于authkey的缘故,各个节点要求python的版本一致。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python魔术方法详解
Feb 14 Python
pygame学习笔记(3):运动速率、时间、事件、文字
Apr 15 Python
Python 爬虫的工具列表大全
Jan 31 Python
python遍历 truple list dictionary的几种方法总结
Sep 11 Python
Python处理PDF及生成多层PDF实例代码
Apr 24 Python
python-opencv在有噪音的情况下提取图像的轮廓实例
Aug 30 Python
Python网络编程 Python套接字编程
Sep 13 Python
python读取文件名称生成list的方法
Apr 27 Python
python自动化实现登录获取图片验证码功能
Nov 20 Python
python实现学生管理系统开发
Jul 24 Python
python中的对数log函数表示及用法
Dec 09 Python
Python中文纠错的简单实现
Jul 07 Python
Python3下错误AttributeError: ‘dict’ object has no attribute’iteritems‘的分析与解决
Jul 06 #Python
Python标准库sched模块使用指南
Jul 06 #Python
用virtualenv建立多个Python独立虚拟开发环境
Jul 06 #Python
基于Python的关键字监控及告警
Jul 06 #Python
Python中装饰器兼容加括号和不加括号的写法详解
Jul 05 #Python
利用python模拟sql语句对员工表格进行增删改查
Jul 05 #Python
利用python实现简单的循环购物车功能示例代码
Jul 05 #Python
You might like
php中出现空白页的原因及解决方法汇总
2014/07/08 PHP
PHP实现操作redis的封装类完整实例
2015/11/14 PHP
使用Git实现Laravel项目的自动化部署
2019/11/24 PHP
Jquery AJAX 框架的使用方法
2009/11/03 Javascript
JavaScript 学习笔记(六)
2009/12/31 Javascript
基于Jquery的动态添加控件并取值的实现代码
2010/09/24 Javascript
Jquery实现搜索框提示功能示例代码
2013/08/13 Javascript
javascript四舍五入函数代码分享(保留后几位)
2013/12/10 Javascript
js导航栏单击事件背景变换示例代码
2014/01/13 Javascript
ListBox实现上移,下移,左移,右移的简单实例
2014/02/13 Javascript
点击表单提交时出现jQuery没有权限的解决方法
2014/07/23 Javascript
jquery实现个人中心导航菜单效果和美观都非常不错
2014/09/02 Javascript
基于jquery实现鼠标左右拖动滑块滑动附源码下载
2015/12/23 Javascript
什么是JavaScript注入攻击?
2016/09/14 Javascript
Bootstrap基本插件学习笔记之折叠(22)
2016/12/08 Javascript
Angular的自定义指令以及实例
2016/12/26 Javascript
JavaScript字符串对象(string)基本用法示例
2017/01/18 Javascript
使用 Javascript 实现浏览器推送提醒功能的示例
2017/11/03 Javascript
详解利用Angular实现多团队模块化SPA开发框架
2017/11/27 Javascript
在小程序中使用canvas的方法示例
2018/09/17 Javascript
js根据json数据中的某一个属性来给数据分组的方法
2018/10/08 Javascript
解决layui轮播图有数据不显示的情况
2019/09/16 Javascript
JavaScript实现图片合成下载的示例
2020/11/19 Javascript
跟老齐学Python之Python文档
2014/10/10 Python
pycharm运行和调试不显示结果的解决方法
2018/11/30 Python
Python HTML解析器BeautifulSoup用法实例详解【爬虫解析器】
2019/04/05 Python
Python实现微信表情包炸群功能
2021/01/28 Python
美国网上订购鲜花:FTD
2016/09/23 全球购物
创建索引时需要注意的事项
2013/05/13 面试题
初中班主任寄语
2014/04/04 职场文书
《天安门广场》教学反思
2014/04/23 职场文书
2014年党务公开方案
2014/05/08 职场文书
质量月口号
2014/06/20 职场文书
自我评价优缺点范文
2015/03/11 职场文书
Python中X[:,0]和X[:,1]的用法
2021/05/10 Python
详解PyTorch模型保存与加载
2022/04/28 Python