Python  Asyncio模块实现的生产消费者模型的方法


Posted in Python onMarch 01, 2021

asyncio的关键字说明

  • event_loop事件循环:程序开启一个无限循环,把一些函数注册到事件循环上,当满足事件发生的时候,调用相应的协程函数
  • coroutine协程:协程对象,指一个使用async关键字定义的函数,它的调用不会立即执行函数,而是会返回一个协程对象,协程对象需要注册到事件循环,由事件循环调用。
  • task任务:一个协程对象就是一个原生可以挂起的函数,任务则是对协程进一步封装,其中包含了任务的各种状态
  • future:代表将来执行或没有执行的任务结果。它和task上没有本质上的区别
  • async/await关键字:async定义一个协程,await用于挂起阻塞的异步调用接口,在python3.4是使用asyncio.coroutine/yield from

在设计模式中,生产消费者模型占有非常重要的地位,这个模型在现实世界中也有很多有意思的对应场景,比如做包子的人和吃包子的人,当两者速度不匹配时,就需要有一个模型来做匹配(偶合),实现做的包子都会依次消费掉。

import asyncio

class ConsumerProducerModel:
  def __init__(self, producer, consumer, queue=asyncio.Queue(), plate_size=6): # the plate holds 6pcs bread
    self.queue = queue
    self.producer = producer
    self.consumer = consumer
    self.plate_size = plate_size

  async def produce_bread(self):
    for i in range(self.plate_size):
      bread = f"bread {i}"
      await asyncio.sleep(0.5) # bread makes faster, 0.5s/pc
      await self.queue.put(bread)
      print(f'{self.producer} makes {bread}')

  async def consume_bread(self):
    while True:
      bread = await self.queue.get()
      await asyncio.sleep(1) # eat slower, 1s/pc
      print(f'{self.consumer} eats {bread}')
      self.queue.task_done()

async def main():
  queue = asyncio.Queue()
  cp1 = ConsumerProducerModel("John", "Grace", queue) # group 1
  cp2 = ConsumerProducerModel("Mike", "Lucy", queue) # group 2

  producer_1 = cp1.produce_bread()
  producer_2 = cp2.produce_bread()

  consumer_1 = asyncio.ensure_future(cp1.consume_bread())
  consumer_2 = asyncio.ensure_future(cp2.consume_bread())

  await asyncio.gather(*[producer_1, producer_2])
  await queue.join()
  consumer_1.cancel()
  consumer_2.cancel()

if __name__ == '__main__':
  loop = asyncio.get_event_loop()
  loop.run_until_complete(main())
  loop.close()

生产消费者模型可以使用多线程和队列来实现,这里选择协程不仅是因为性能不错,而且整个下来逻辑清晰:

1. 先定义初始化的东西,要有个队列,要有生产者,要有消费者,要有装面包的盘子大小;

2. 生产者:根据盘子大小生产出对应的东西(面包),将东西放入盘子(queue);

3. 消费者:从盘子上取东西,每次取东西都是一个任务,每次任务完成,就标记为task_done(调用函数)。在这个层面,一直循环;

4. 主逻辑:实例化生产消费者模型对象,创建生产者协程,创建任务(ensure_future),收集协程结果,等待所有线程结束(join),手动取消两个消费者协程;

5. 运行:首先创建事件循环,然后进入主逻辑,直到完成,关闭循环。

到此这篇关于Python Asyncio模块实现的生产消费者模型的方法的文章就介绍到这了,更多相关Python生产消费者模型内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python的Django应用程序解决AJAX跨域访问问题的方法
May 31 Python
深入理解Python3中的http.client模块
Mar 29 Python
Python读写/追加excel文件Demo分享
May 03 Python
python实现自动网页截图并裁剪图片
Jul 30 Python
python中scikit-learn机器代码实例
Aug 05 Python
Python K最近邻从原理到实现的方法
Aug 15 Python
Python sklearn库实现PCA教程(以鸢尾花分类为例)
Feb 24 Python
Python编程快速上手——选择性拷贝操作案例分析
Feb 28 Python
Pandas缺失值2种处理方式代码实例
Jun 13 Python
python中np是做什么的
Jul 21 Python
详解pandas中利用DataFrame对象的.loc[]、.iloc[]方法抽取数据
Dec 13 Python
Python编程源码报错解决方法总结经验分享
Oct 05 Python
Python创建自己的加密货币的示例
Mar 01 #Python
python 实现网易邮箱邮件阅读和删除的辅助小脚本
Mar 01 #Python
详解Django中的FBV和CBV对比分析
Mar 01 #Python
Python3压缩和解压缩实现代码
Mar 01 #Python
python re模块常见用法例举
Mar 01 #Python
Python实现简单的2048小游戏
Mar 01 #Python
Python使用Turtle模块绘制国旗的方法示例
Feb 28 #Python
You might like
PHP下对数组进行排序的函数
2010/08/08 PHP
PHP中用正则表达式清除字符串的空白
2011/01/17 PHP
PHP和Shell实现检查SAMBA与NFS Server是否存在
2015/01/07 PHP
laravel5.5添加echarts实现画图功能的方法
2019/10/09 PHP
javascript 设置某DIV区域内的checkbox复选框
2009/11/30 Javascript
手把手教你自己写一个js表单验证框架的方法
2010/09/14 Javascript
让ie运行js时提示允许阻止内容运行的解决方法
2010/10/24 Javascript
jquery如何实现在加载完iframe的内容后再进行操作
2013/09/10 Javascript
javascript 获取HTML DOM父、子、临近节点
2014/06/16 Javascript
使用typeof方法判断undefined类型
2014/09/09 Javascript
js实现发送验证码后的倒计时功能
2015/05/28 Javascript
javascript实现状态栏文字首尾相接循环滚动的方法
2015/07/22 Javascript
jsonp跨域请求数据实现手机号码查询实例分析
2015/12/12 Javascript
AngularJS bootstrap启动详解及实例代码
2016/09/14 Javascript
新闻上下滚动jquery 超简洁(必看篇)
2017/01/21 Javascript
分享19个JavaScript 有用的简写写法
2017/07/07 Javascript
scrapyd schedule.json setting 传入多个值问题
2019/08/07 Javascript
vue-cli3项目升级到vue-cli4 的方法总结
2020/03/19 Javascript
JavaScript undefined及null区别实例解析
2020/07/21 Javascript
如何在JavaScript中等分数组的实现
2020/12/13 Javascript
[01:09:23]KG vs TNC 2019国际邀请赛小组赛 BO2 第一场 8.15
2019/08/16 DOTA
Python提取Linux内核源代码的目录结构实现方法
2016/06/24 Python
python将unicode转为str的方法
2017/06/21 Python
python实现多线程行情抓取工具的方法
2018/02/28 Python
PyQt实现界面翻转切换效果
2018/04/20 Python
python 切换root 执行命令的方法
2019/01/19 Python
Django 在iframe里跳转顶层url的例子
2019/08/21 Python
在Keras中实现保存和加载权重及模型结构
2020/06/15 Python
详解CSS3中字体平滑处理和抗锯齿渲染
2017/03/29 HTML / CSS
CSS3 实现图形下落动画效果
2020/11/13 HTML / CSS
Canvas系列之滤镜效果
2019/02/12 HTML / CSS
专营店会计助理岗位职责
2013/11/29 职场文书
啤酒节策划方案
2014/05/28 职场文书
乡镇领导干部个人对照检查材料思想汇报
2014/09/23 职场文书
优秀党员先进事迹材料2016
2016/02/29 职场文书
七年级话题作文之执着
2019/11/19 职场文书