python 单线程和异步协程工作方式解析


Posted in Python onSeptember 28, 2019

在python3.4之后新增了asyncio模块,可以帮我们检测IO(只能是网络IO【HTTP连接就是网络IO操作】),实现应用程序级别的切换(异步IO)。注意:asyncio只能发tcp级别的请求,不能发http协议。

 异步IO:所谓「异步 IO」,就是你发起一个 网络IO 操作,却不用等它结束,你可以继续做其他事情,当它结束时,你会得到通知。

实现方式:单线程+协程实现异步IO操作。

异步协程用法

接下来让我们来了解下协程的实现,从 Python 3.4 开始,Python 中加入了协程的概念,但这个版本的协程还是以生成器对象为基础的,在 Python 3.5 则增加了 async/await,使得协程的实现更加方便。首先我们需要了解下面几个概念:

  • event_loop:事件循环,相当于一个无限循环,我们可以把一些函数注册到这个事件循环上,当满足条件发生的时候,就会调用对应的处理方法。
  • coroutine:中文翻译叫协程,在 Python 中常指代为协程对象类型,我们可以将协程对象注册到时间循环中,它会被事件循环调用。我们可以使用 async 关键字来定义一个方法,这个方法在调用时不会立即被执行,而是返回一个协程对象。
  • task:任务,它是对协程对象的进一步封装,包含了任务的各个状态。
  • future:代表将来执行或没有执行的任务的结果,实际上和 task 没有本质区别。

另外我们还需要了解 async/await 关键字,它是从 Python 3.5 才出现的,专门用于定义协程。其中,async 定义一个协程,await 用来挂起阻塞方法的执行。

1.定义一个协程

示例:

from time import sleep
import asyncio

async def request(url):
  print('正在请求url')
  sleep(2)
  print('下载成功')

# 返回一个特殊的协程对象,request函数内部不会被执行
c = request('www.baidu.com')

# 实例化一个事件循环对象
loop = asyncio.get_event_loop()

# 基于事件循环对象创建一个任务对象,并将协程对象封装到该对象中
task = loop.create_task(c)

# 另一种形式实例化任务对象的方法
task = asyncio.ensure_future(c)

# 将协程对象注册到事件循环对象中,并需要启动事件循环对象
# 当事件循环对象内的第一个参数遇到阻塞是,就会自动执行后面的对象,当第一个对象的阻塞结束是会上报给事件循环对象,然后事件循环对象继续执行第一个对象,从而达到异步的效果
loop.run_until_complete(task)

2.给任务对象绑定回调

import asyncio

async def request(url):
  print('正在请求url')
  print('下载成功')
  return url

# 回调函数必须有一个参数:task【任务对象】
# task.result():任务对象中封装的协程对象对应的特殊函数内部的返回值
def callback(task):
  print('this is callback')
  print(task.result())

c = request('www.baidu.com')
# 创建一个任务对象
task = asyncio.ensure_future(c)
# 给任务对象绑定一个回调函数
task.add_done_callback(callback)
# 实例化一个事件循环对象
loop = asyncio.get_event_loop()
# 将协程对象注册到事件循环对象中,并需要启动事件循环对象
loop.run_until_complete(task)

3.多任务异步协程

import asyncio
import time

urls = ['www.baidu.com','www.sogou,com','www.goubanjia.com']
start_time = time.time()
async def request(url):
  print('正在请求url')
  # 在多任务异步协程事项中,不可以出现不支持异步的相关代码,sleep不支持
  # sleep(2)
  await asyncio.sleep(2)
  print('下载成功')

loop = asyncio.get_event_loop()
# 任务列表:防止多个任务对象
tasks = []
for url in urls:
  c = request(url)
  task = asyncio.ensure_future(c)
  tasks.append(task)

loop.run_until_complete(asyncio.wait(tasks))
print(time.time() - start_time)

4.多异步任务协程应用

# aiohttp:支持异步的一个基于网络请求的模块
import aiohttp
import asyncio
import time

urls = ['http://127.0.0.1:5000/jay',
    'http://127.0.0.1:5000/bobo',
    'http://127.0.0.1:5000/tom',]

start_time = time.time()

async def get_pageText(url):
  async with aiohttp.ClientSession() as s:# 实例化请求对象
    async with await s.get(url) as response:
      page_text = await response.text()
      print(page_text)
      # 这里有返回值,是因为要用回调函数进行数据解析
      return page_text

# 封装回调函数用于数据解析
def parse(task):
  # 1.获取相应数据
  page_text = task.reault()
  print(page_text+',即将进行数据解析...')
  # 以下解析操作


tasks = []
for url in urls:
  c = get_pageText(url)
  task = asyncio.ensure_future(c)
  # 给任务对象绑定回调函数用于数据解析
  task.add_done_callback(parse)
  tasks.append(task)

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
print(time.time() - start_time)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
跟老齐学Python之让人欢喜让人忧的迭代
Oct 02 Python
浅谈Python程序与C++程序的联合使用
Apr 07 Python
用于统计项目中代码总行数的Python脚本分享
Apr 21 Python
Python中的index()方法使用教程
May 18 Python
在Django中创建第一个静态视图
Jul 15 Python
Python生成器定义与简单用法实例分析
Apr 30 Python
浅谈Python traceback的优雅处理
Aug 31 Python
python实现简单的单变量线性回归方法
Nov 08 Python
python3+PyQt5 创建多线程网络应用-TCP客户端和TCP服务器实例
Jun 17 Python
如何给Python代码进行加密
Jan 10 Python
Python运行提示缺少模块问题解决方案
Apr 02 Python
Python爬虫实现selenium处理iframe作用域问题
Jan 27 Python
python爬虫 正则表达式解析
Sep 28 #Python
python爬虫 Pyppeteer使用方法解析
Sep 28 #Python
python安装scipy的步骤解析
Sep 28 #Python
python网络爬虫 CrawlSpider使用详解
Sep 27 #Python
python numpy存取文件的方式
Apr 01 #Python
100行Python代码实现每天不同时间段定时给女友发消息
Sep 27 #Python
使用Fabric自动化部署Django项目的实现
Sep 27 #Python
You might like
typecho插件编写教程(四):插件挂载
2015/05/28 PHP
thinkphp 字母函数详解T/I/N/D/M/A/R/U
2017/04/03 PHP
学习YUI.Ext 第七天--关于View&JSONView
2007/03/10 Javascript
读jQuery之八 包装事件对象
2011/06/21 Javascript
jquery表单验证框架提供的身份证验证方法(示例代码)
2013/12/27 Javascript
jquery统计输入文字的个数并对其进行判断
2014/01/07 Javascript
Extjs grid添加一个图片状态或者按钮的方法
2014/04/03 Javascript
java和javascript获取word文档的书签位置对比
2014/06/19 Javascript
javascript实现根据时间段显示问候语的方法
2015/06/18 Javascript
JS与Ajax Get和Post在使用上的区别实例详解
2016/06/08 Javascript
AngularJS ng-bind 指令简单实现
2016/07/30 Javascript
Node.js与MySQL交互操作及其注意事项
2016/10/05 Javascript
js实现可输入可选择的select下拉框
2016/12/21 Javascript
Vue学习笔记进阶篇之单元素过度
2017/07/19 Javascript
浅谈mint-ui loadmore组件注意的问题
2017/11/08 Javascript
node.js实现微信开发之获取用户授权
2019/03/18 Javascript
vue Tab切换以及缓存页面处理的几种方式
2019/11/05 Javascript
three.js欧拉角和四元数的使用方法
2020/07/26 Javascript
vue 解决兄弟组件、跨组件深层次的通信操作
2020/07/27 Javascript
微信小程序之高德地图多点路线规划过程示例详解
2021/01/18 Javascript
[55:32]2018DOTA2亚洲邀请赛 4.4 淘汰赛 EG vs LGD 第二场
2018/04/05 DOTA
Python 文件重命名工具代码
2009/07/26 Python
Python处理字符串之isspace()方法的使用
2015/05/19 Python
对numpy下的轴交换transpose和swapaxes的示例解读
2019/06/26 Python
Django 批量插入数据的实现方法
2020/01/12 Python
Python版中国省市经纬度
2020/02/11 Python
介绍一下常见的木马种类
2014/11/15 面试题
最新茶叶店创业计划书
2014/01/14 职场文书
吃空饷专项治理工作实施方案
2014/03/04 职场文书
年终晚会主持词
2014/03/25 职场文书
护士自我推荐信范文
2015/03/24 职场文书
装配车间主任岗位职责
2015/04/08 职场文书
大学推普周活动总结
2015/05/07 职场文书
婚庆公司开业主持词
2015/06/30 职场文书
2016最新离婚协议书范本及程序
2016/03/18 职场文书
用Python仅20行代码编写一个简单的端口扫描器
2022/04/08 Python