Python中Iterator迭代器的使用杂谈


Posted in Python onJune 20, 2016

迭代器是一种支持next()操作的对象。它包含一组元素,当执行next()操作时,返回其中一个元素;当所有元素都被返回后,生成一个StopIteration异常。

>>>a=[1,2,3]
>>>ia=iter(a)
>>>next(ia)
1
>>>next(ia)
2
>>>next(ia)
3
>>>next(ia)
Traceback (most recent call last):
 File "<stdin>", line 1, in <module>
StopIteration

ite()可以接受多种Python对象为参数,比如list,tuple, dict, set等,并将其转化为迭代器。迭代器可以用于for语句或in语句中。很多常用操作也是支持迭代器的,比如sum(), max()等。

>>> b=[4,5,6]
>>> ib=iter(b)
>>> for x in ib:
...   print(x)
...
4
5
6
>>> ic=iter(b)
>>> sum(ic)
15
>>> id=iter(b)
>>> max(ic)
6

毋庸置疑,迭代器有很多好处:

1.“流式”数据处理方式减少内存消耗:
比如处理文件,一下猛地把全部数据全部取出来放到内存里面进行处理会导致程序消耗大量内存,有时甚至没法做到,一般我们会一部分一部分的对文件内容进行处理:

for text_line in open("xx.txt"):
 print text_line

2.或者对xml文件进行处理的时候:

tree = etree.iterparse(xml, ['start', 'end'])
for event, elem in tree:
  if event == "end"
    result = etree.tostring(elem)
    elem.clear()
    print result

内置函数open返回的file对象和etree.iterparse序列化的xml tree都是可迭代对象,能够让我们渐进式地对文件的内容进行处理。

3.支持方便用for语句对数据进行消费:
python内置的一些常见的像类型像数组、列表甚至字符串等都是可迭代类型,这样我们就能方便for语句这个语法糖方便对数据进行消费,不需要自己记录索引位置,人肉循环:

for i in [1, 2, 3, 4]
 print i,

简单了解了一下迭代器的好处后,我们正正经经的聊聊python的迭代器模式。
在这里我们引入两个比较绕口的名词:可迭代对象和迭代器对象,个人觉得从这两个概念下手会对迭代器有比较好的理解。在放例子前先对这两个概念给一个不入流的解释:

可迭代对象:对象里面包含__iter()__方法的实现,对象的iter函数经调用之后会返回一个迭代器,里面包含具体数据获取的实现。
迭代器:包含有next方法的实现,在正确范围内返回期待的数据以及超出范围后能够抛出StopIteration的错误停止迭代。
放个例子边看边说:

class iterable_range:
  def __init__(self, n):
    self.n = n

  def __iter__(self):
    return my_range_iterator(self.n)

class my_range_iterator:
  def __init__(self, n):
    self.i = 0
    self.n = n

  def next(self):
    if self.i < self.n:
      i = self.i
      self.i += 1
      print 'iterator get number:', i
      return i
    else:
      raise StopIteration()

例子中的iterable_range是一个可迭代对象,所以我们也能够对它用for语句来进行迭代:

temp = my_range(10)
for item in temp:
  print item,

输出:

my iterator get number: 0
  0
  my iterator get number: 1
  1
  my iterator get number: 2
  2
  my iterator get number: 3
  3
  my iterator get number: 4
  4
  my iterator get number: 5
  5
  my iterator get number: 6
  6
  my iterator get number: 7
  7
  my iterator get number: 8
  8
  my iterator get number: 9
  9

大家可以仔细地看一下输出的日志:

  • 数据确实是“流式”处理的
  • iterator是真正在背后做事的人
  • for语句能够非常方便的迭代对象的数据。

可迭代对象其实更像是整个迭代器模式模式的上层,像一种约束一种契约一种规范,它能够保证自己能够返回一个在实际工作中干活的迭代器对象。for、sum等接受一个可迭代对象的方法都是遵循这样的规范:调用对象的__iter__函数,返回迭代器,对迭代器对象返回的每个值进行处理抑或需要一些汇总的操作。拿for举个例子:

iterator_object = iterable_object.__iter__()
while True:
  try:
    value = iterator_object.next()
  except StopIteration:
    # StopIteration exception is raised after last element
    break

  # loop code
  print value

for这个语法糖背后的逻辑差不多就是上面例子中代码所示的那样:首先获取可迭代对象返回的迭代器对象,然后调用迭代器对象的next方法获取每个值,在获取值的过程中随时检测边界-也就是检查是否抛出了StopIteration这样的错误,如果迭代器对象抛出错误则迭代停止(note:从这个例子可以看出,对于那些接受可迭代对象的方法,如果我们传一个单纯的迭代器对象其实也是无法工作的,可能会报出类似于TypeError: iteration over non-sequence的错误)。
当然了,一般在应用过程中我们不会将他们特意的分开,我们能够稍微对迭代器对象进行修改一下,添加__iter__方法的实现,这样对象本身就既是可迭代对象也是一个迭代器对象了:

class my_range_iterator:
   def __init__(self, n):
    self.i = 0
    self.n = n

   def __iter__(self):
    return self

   def next(self):
    if self.i < self.n:
      i = self.i

      self.i += 1
      print 'my iterator get number:', i
      return i
    else:
      raise StopIteration()

 for item in my_range_iterator(10):
   print item

输出:

 

my iterator get number: 0
  0
  my iterator get number: 1
  1
  my iterator get number: 2
  2
  my iterator get number: 3
  3
  my iterator get number: 4
  4
  my iterator get number: 5
  5
  my iterator get number: 6
  6
  my iterator get number: 7
  7
  my iterator get number: 8
  8
  my iterator get number: 9
  9
Python 相关文章推荐
进一步理解Python中的函数编程
Apr 13 Python
Django imgareaselect手动剪切头像实现方法
May 26 Python
Python找出最小的K个数实例代码
Jan 04 Python
Python实现的多项式拟合功能示例【基于matplotlib】
May 15 Python
基于python log取对数详解
Jun 08 Python
DES加密解密算法之python实现版(图文并茂)
Dec 06 Python
手把手教你使用Python创建微信机器人
Apr 29 Python
python 实现两个线程交替执行
May 02 Python
详解Python 中的容器 collections
Aug 17 Python
Python filter()及reduce()函数使用方法解析
Sep 05 Python
python 制作磁力搜索工具
Mar 04 Python
pandas中关于apply+lambda的应用
Feb 28 Python
实例讲解Python编程中@property装饰器的用法
Jun 20 #Python
Python的包管理器pip更换软件源的方法详解
Jun 20 #Python
python3.5使用tkinter制作记事本
Jun 20 #Python
浅谈python抛出异常、自定义异常, 传递异常
Jun 20 #Python
python3 与python2 异常处理的区别与联系
Jun 19 #Python
浅谈Python的异常处理
Jun 19 #Python
qpython3 读取安卓lastpass Cookies
Jun 19 #Python
You might like
php通用防注入程序 推荐
2011/02/26 PHP
使用pthreads实现真正的PHP多线程(需PHP5.3以上版本)
2014/05/05 PHP
使用PHP生成图片的缩略图的方法
2015/08/18 PHP
PHP模拟http请求的方法详解
2016/11/09 PHP
JavaScript中的Array对象使用说明
2011/01/17 Javascript
jquery图片放大镜功能的实例代码
2013/03/26 Javascript
jquery操作checkbox实现全选和取消全选
2014/05/02 Javascript
jQuery中removeClass()方法用法实例
2015/01/05 Javascript
js使用onmousemove和onmouseout获取鼠标坐标的方法
2015/03/31 Javascript
Javascript通过overflow控制列表闭合与展开的方法
2015/05/15 Javascript
深入解读JavaScript中的Hoisting机制
2015/08/12 Javascript
跟我学习javascript的arguments对象
2015/11/16 Javascript
jQuery事件的绑定、触发、及监听方法简单说明
2016/05/10 Javascript
JS 获取HTML标签内的子节点的方法
2016/09/21 Javascript
使用jQuery卸载全部事件的思路详解
2017/04/03 jQuery
jQuery自定义图片上传插件实例代码
2017/04/04 jQuery
用vue的双向绑定简单实现一个todo-list的示例代码
2017/08/03 Javascript
Angularjs添加排序查询功能的实例代码
2017/10/24 Javascript
nodejs发送http请求时遇到404长时间未响应的解决方法
2017/12/10 NodeJs
NodeJS 中Stream 的基本使用
2018/07/30 NodeJs
vue axios数据请求及vue中使用axios的方法
2018/09/10 Javascript
vscode配置vue下的es6规范自动格式化详解
2019/03/20 Javascript
ES6中Set和Map用法实例详解
2020/03/02 Javascript
分享Python切分字符串的一个不错方法
2018/12/14 Python
Python可变参数会自动填充前面的默认同名参数实例
2019/11/18 Python
python 字典套字典或列表的示例
2019/12/16 Python
浅谈keras中loss与val_loss的关系
2020/06/22 Python
TensorFlow Autodiff自动微分详解
2020/07/06 Python
详解查看Python解释器路径的两种方式
2020/10/15 Python
幼儿园门卫制度
2014/01/29 职场文书
校园环保建议书
2014/05/14 职场文书
幼儿园运动会口号
2014/06/07 职场文书
党支部创先争优承诺书
2014/08/30 职场文书
思想作风整顿个人剖析材料
2014/10/06 职场文书
离开雷锋的日子观后感
2015/06/09 职场文书
Python实现列表拼接和去重的三种方式
2021/07/02 Python