Python 3中的yield from语法详解


Posted in Python onJanuary 18, 2017

前言

最近在捣鼓Autobahn,它有给出个例子是基于asyncio 的,想着说放到pypy3上跑跑看竟然就……失败了。 pip install asyncio直接报invalid syntax,粗看还以为2to3处理的时 候有问题——这不能怪我,好~多package都是用2写了然后转成3的——结果发 现asyncio本来就只支持3.3+的版本,才又回头看代码,赫然发现一句 yield fromyield我知道,但是yield from是神马?

PEP-380

好吧这个标题是我google出来的,yield from的前世今生都在 这个PEP里面,总之大意是原本的yield语句只能将CPU控制权 还给直接调用者,当你想要将一个generator或者coroutine里带有 yield语句的逻辑重构到另一个generator(原文是subgenerator) 里的时候,会非常麻烦,因为外面的generator要负责为里面的 generator做消息传递;所以某人有个想法是让python把消息传递 封装起来,使其对程序猿透明,于是就有了yield from

PEP-380规定了yield from的语义,或者说嵌套的generator应该 有的行为模式。

假设A函数中有这样一个语句

yield from B()

B()返回的是一个可迭代(iterable)的对象b,那么A()会返回一个 generator——照我们的命名规范,名字叫a——那么:

  1. b迭代产生的每个值都直接传递给a的调用者。
  2. 所有通过send方法发送到a的值都被直接传递给b. 如果发送的 值是None,则调用b的__next__()方法,否则调用b的send 方法。如果对b的方法调用产生StopIteration异常,a会继续 执行yield from后面的语句,而其他异常则会传播到a中,导 致a在执行yield from的时候抛出异常。
  3. 如果有除GeneratorExit以外的异常被throw到a中的话,该异常 会被直接throw到b中。如果b的throw方法抛出StopIteration, a会继续执行;其他异常则会导致a也抛出异常。
  4. 如果一个GeneratorExit异常被throw到a中,或者a的close 方法被调用了,并且b也有close方法的话,b的close方法也 会被调用。如果b的这个方法抛出了异常,则会导致a也抛出异常。 反之,如果b成功close掉了,a也会抛出异常,但是是特定的  GeneratorExit异常。
  5. a中yield from表达式的求值结果是b迭代结束时抛出的  StopIteration异常的第一个参数。
  6. b中的return <expr>语句实际上会抛出StopIteration(<expr>) 异常,所以b中return的值会成为a中yield from表达式的返回值。

为神马会有这么多要求?因为generator这种东西的行为在加入throw 方法之后变得非常复杂,特别是几个generator在一起的情况,需要 类似进程管理的元语对其进行操作。上面的所有要求都是为了统一 generator原本就复杂的行为,自然简单不下来啦。

我承认我一下没看明白PEP的作者到底想说什么,于是动手“重构” 一遍大概会有点帮助。

一个没用的例子

说没用是因为你大概不会真的想把程序写成这样,但是……反正能说明 问题就够了。

设想有这样一个generator函数:

def inner():
 coef = 1
 total = 0
 while True:
 try:
  input_val = yield total
  total = total + coef * input_val
 except SwitchSign:
  coef = -(coef)
 except BreakOut:
  return total

这个函数生成的generator将从send方法接收到的值累加到局部 变量total中,并且在收到BreakOut异常时停止迭代;至于另外 一个SwitchSign异常应该不难理解,这里就不剧透了。

从代码上看,由inner()函数得到的generator通过send接收用于 运算的数据,同时通过throw方法接受外部代码的控制以执行不同 的代码分支,目前为止都很清晰。

接下来因为需求有变动,我们需要在inner()这段代码的前后分别加 入初始化和清理现场的代码。鉴于我认为“没坏的代码就不要动”,我 决定让inner()维持现状,然后再写一个outer() ,把添加的代码放在 outer()里,并提供与inner()一样的操作接口。由于inner()利用了 generator的若干特性,所以outer()也必须做到这五件事情:

  1. outer()必须生成一个generator;
  2. 在每一步的迭代中,outer()要帮助inner()返回迭代值;
  3. 在每一步的迭代中,outer()要帮助inner()接收外部发送的数据;
  4. 在每一步的迭代中,outer()要处理inner()接收和抛出所有异常;
  5. outer()被close的时候,inner()也要被正确地close掉。

根据上面的要求,在只有yield的世界里,outer()可能是长这样的:

def outer1():
 print("Before inner(), I do this.")
 i_gen = inner()
 input_val = None
 ret_val = i_gen.send(input_val)
 while True:
 try:
  input_val = yield ret_val
  ret_val = i_gen.send(input_val)
 except StopIteration:
  break
 except Exception as err:
  try:
  ret_val = i_gen.throw(err)
  except StopIteration:
  break
 print("After inner(), I do that.")

WTF,这段代码比inner()本身还要长,而且还没处理close操作。

现在我们来试试外星科技:

def outer2():
 print("Before inner(), I do this.")
 yield from inner()
 print("After inner(), I do that.")

除了完全符合上面的要求外,这四行代码打印出来的时候还能省点纸。

我们可以在outer1()outer2()上分别测试 数据 以及 异常 的传递,不难发现这两个generator的行为基本上是一致的。既然如此, 外星科技当然在大多数情况下是首选。

对generator和coroutine的疑问

从以前接触到Python下的coroutine就觉得它怪怪的,我能看清它们的 行为模式,但是并不明白为什么要使用这种模式,generator和 coroutine具有一样的对外接口,是generator造就了coroutine呢,还 是coroutine造就了generator?最让我百思不得其解的是,Python下 的coroutine将“消息传递”和“调度”这两种操作绑在一个yield 上——即便有了yield from,这个状况还是没变过——我看不出这样做 的必要性。如果一开始就从语法层面将这两种语义分开,并且为 generator和coroutine分别设计一套接口,coroutine的概念大概也会 容易理解一些。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家学习或者使用python能带来一定的帮助,如果有疑问大家可以留言交流。

Python 相关文章推荐
Python获取Linux系统下的本机IP地址代码分享
Nov 07 Python
Python中使用urllib2模块编写爬虫的简单上手示例
Jan 20 Python
Python 搭建Web站点之Web服务器与Web框架
Nov 06 Python
Bottle框架中的装饰器类和描述符应用详解
Oct 28 Python
Flask框架使用DBUtils模块连接数据库操作示例
Jul 20 Python
python中字符串内置函数的用法总结
Sep 13 Python
python+opencv打开摄像头,保存视频、拍照功能的实现方法
Jan 08 Python
对Python多线程读写文件加锁的实例详解
Jan 14 Python
python 列表推导式使用详解
Aug 29 Python
python调用matplotlib模块绘制柱状图
Oct 18 Python
解决python中0x80072ee2错误的方法
Jul 19 Python
使用gunicorn部署django项目的问题
Dec 30 Python
Python中的字符串操作和编码Unicode详解
Jan 18 #Python
关于Python中异常(Exception)的汇总
Jan 18 #Python
python:socket传输大文件示例
Jan 18 #Python
详解使用pymysql在python中对mysql的增删改查操作(综合)
Jan 18 #Python
python实现下载整个ftp目录的方法
Jan 17 #Python
ansible作为python模块库使用的方法实例
Jan 17 #Python
python 基础教程之Map使用方法
Jan 17 #Python
You might like
Windows下PHP5和Apache的安装与配置
2006/09/05 PHP
php使用cookie显示用户上次访问网站日期的方法
2015/01/26 PHP
php通过array_merge()函数合并关联和非关联数组的方法
2015/03/18 PHP
php文件上传的两种实现方法
2016/04/04 PHP
PHP文件及文件夹操作之创建、删除、移动、复制
2016/07/13 PHP
PHP goto语句用法实例
2019/08/06 PHP
获取任意Html元素与body之间的偏移距离 offsetTop、offsetLeft (For:IE5+ FF1 )[
2006/12/22 Javascript
关于jQuery UI 使用心得及技巧
2012/10/10 Javascript
NodeJS与Mysql的交互示例代码
2013/08/18 NodeJs
如何获取select下拉框的值(option没有及有value属性)
2013/11/08 Javascript
jquery1.9 下检测浏览器类型和版本的方法
2013/12/26 Javascript
Bootstrap每天必学之进度条
2015/11/30 Javascript
基于原生JS实现图片裁剪
2016/08/01 Javascript
详解nodejs微信公众号开发——5.素材管理接口
2017/04/11 NodeJs
深入理解JavaScript和TypeScript中的class
2018/04/22 Javascript
NodeJs 文件系统操作模块fs使用方法详解
2018/11/26 NodeJs
微信小程序全局变量GLOBALDATA的定义和调用过程解析
2019/09/23 Javascript
创建nuxt.js项目流程图解
2020/03/13 Javascript
Python实现学校管理系统
2018/01/11 Python
python获取文件真实链接的方法,针对于302返回码
2018/05/14 Python
Python实现的大数据分析操作系统日志功能示例
2019/02/11 Python
python全栈要学什么 python全栈学习路线
2019/06/28 Python
Django+Uwsgi+Nginx如何实现生产环境部署
2020/07/31 Python
如何使用html5与css3完成google涂鸦动画
2012/12/16 HTML / CSS
HTML5在线预览PDF的示例代码
2017/09/14 HTML / CSS
全球游戏Keys和卡片市场:GamesDeal
2018/03/28 全球购物
高级护理实习生自荐信
2013/09/28 职场文书
中职生自荐信
2013/10/13 职场文书
物流合作计划书
2014/01/10 职场文书
触摸春天教学反思
2014/02/03 职场文书
疾病防治方案
2014/05/31 职场文书
公务员爱岗敬业演讲稿
2014/08/26 职场文书
技术入股合作协议书
2014/10/07 职场文书
2016计算机专业毕业生自荐信
2016/01/28 职场文书
同学聚会开幕词
2019/04/02 职场文书
mysql中between的边界,范围说明
2021/06/08 MySQL