Python中Iterator迭代器的使用杂谈


Posted in Python onJune 20, 2016

迭代器是一种支持next()操作的对象。它包含一组元素,当执行next()操作时,返回其中一个元素;当所有元素都被返回后,生成一个StopIteration异常。

>>>a=[1,2,3]
>>>ia=iter(a)
>>>next(ia)
1
>>>next(ia)
2
>>>next(ia)
3
>>>next(ia)
Traceback (most recent call last):
 File "<stdin>", line 1, in <module>
StopIteration

ite()可以接受多种Python对象为参数,比如list,tuple, dict, set等,并将其转化为迭代器。迭代器可以用于for语句或in语句中。很多常用操作也是支持迭代器的,比如sum(), max()等。

>>> b=[4,5,6]
>>> ib=iter(b)
>>> for x in ib:
...   print(x)
...
4
5
6
>>> ic=iter(b)
>>> sum(ic)
15
>>> id=iter(b)
>>> max(ic)
6

毋庸置疑,迭代器有很多好处:

1.“流式”数据处理方式减少内存消耗:
比如处理文件,一下猛地把全部数据全部取出来放到内存里面进行处理会导致程序消耗大量内存,有时甚至没法做到,一般我们会一部分一部分的对文件内容进行处理:

for text_line in open("xx.txt"):
 print text_line

2.或者对xml文件进行处理的时候:

tree = etree.iterparse(xml, ['start', 'end'])
for event, elem in tree:
  if event == "end"
    result = etree.tostring(elem)
    elem.clear()
    print result

内置函数open返回的file对象和etree.iterparse序列化的xml tree都是可迭代对象,能够让我们渐进式地对文件的内容进行处理。

3.支持方便用for语句对数据进行消费:
python内置的一些常见的像类型像数组、列表甚至字符串等都是可迭代类型,这样我们就能方便for语句这个语法糖方便对数据进行消费,不需要自己记录索引位置,人肉循环:

for i in [1, 2, 3, 4]
 print i,

简单了解了一下迭代器的好处后,我们正正经经的聊聊python的迭代器模式。
在这里我们引入两个比较绕口的名词:可迭代对象和迭代器对象,个人觉得从这两个概念下手会对迭代器有比较好的理解。在放例子前先对这两个概念给一个不入流的解释:

可迭代对象:对象里面包含__iter()__方法的实现,对象的iter函数经调用之后会返回一个迭代器,里面包含具体数据获取的实现。
迭代器:包含有next方法的实现,在正确范围内返回期待的数据以及超出范围后能够抛出StopIteration的错误停止迭代。
放个例子边看边说:

class iterable_range:
  def __init__(self, n):
    self.n = n

  def __iter__(self):
    return my_range_iterator(self.n)

class my_range_iterator:
  def __init__(self, n):
    self.i = 0
    self.n = n

  def next(self):
    if self.i < self.n:
      i = self.i
      self.i += 1
      print 'iterator get number:', i
      return i
    else:
      raise StopIteration()

例子中的iterable_range是一个可迭代对象,所以我们也能够对它用for语句来进行迭代:

temp = my_range(10)
for item in temp:
  print item,

输出:

my iterator get number: 0
  0
  my iterator get number: 1
  1
  my iterator get number: 2
  2
  my iterator get number: 3
  3
  my iterator get number: 4
  4
  my iterator get number: 5
  5
  my iterator get number: 6
  6
  my iterator get number: 7
  7
  my iterator get number: 8
  8
  my iterator get number: 9
  9

大家可以仔细地看一下输出的日志:

  • 数据确实是“流式”处理的
  • iterator是真正在背后做事的人
  • for语句能够非常方便的迭代对象的数据。

可迭代对象其实更像是整个迭代器模式模式的上层,像一种约束一种契约一种规范,它能够保证自己能够返回一个在实际工作中干活的迭代器对象。for、sum等接受一个可迭代对象的方法都是遵循这样的规范:调用对象的__iter__函数,返回迭代器,对迭代器对象返回的每个值进行处理抑或需要一些汇总的操作。拿for举个例子:

iterator_object = iterable_object.__iter__()
while True:
  try:
    value = iterator_object.next()
  except StopIteration:
    # StopIteration exception is raised after last element
    break

  # loop code
  print value

for这个语法糖背后的逻辑差不多就是上面例子中代码所示的那样:首先获取可迭代对象返回的迭代器对象,然后调用迭代器对象的next方法获取每个值,在获取值的过程中随时检测边界-也就是检查是否抛出了StopIteration这样的错误,如果迭代器对象抛出错误则迭代停止(note:从这个例子可以看出,对于那些接受可迭代对象的方法,如果我们传一个单纯的迭代器对象其实也是无法工作的,可能会报出类似于TypeError: iteration over non-sequence的错误)。
当然了,一般在应用过程中我们不会将他们特意的分开,我们能够稍微对迭代器对象进行修改一下,添加__iter__方法的实现,这样对象本身就既是可迭代对象也是一个迭代器对象了:

class my_range_iterator:
   def __init__(self, n):
    self.i = 0
    self.n = n

   def __iter__(self):
    return self

   def next(self):
    if self.i < self.n:
      i = self.i

      self.i += 1
      print 'my iterator get number:', i
      return i
    else:
      raise StopIteration()

 for item in my_range_iterator(10):
   print item

输出:

 

my iterator get number: 0
  0
  my iterator get number: 1
  1
  my iterator get number: 2
  2
  my iterator get number: 3
  3
  my iterator get number: 4
  4
  my iterator get number: 5
  5
  my iterator get number: 6
  6
  my iterator get number: 7
  7
  my iterator get number: 8
  8
  my iterator get number: 9
  9
Python 相关文章推荐
python 合并文件的具体实例
Aug 08 Python
Python内置数据类型详解
Aug 18 Python
浅谈python中的变量默认是什么类型
Sep 11 Python
Python进度条实时显示处理进度的示例代码
Jan 30 Python
使用python3+xlrd解析Excel的实例
May 04 Python
学习python的前途 python挣钱
Feb 27 Python
Python 中PyQt5 点击主窗口弹出另一个窗口的实现方法
Jul 04 Python
Python + OpenCV 实现LBP特征提取的示例代码
Jul 11 Python
python使用PIL和matplotlib获取图片像素点并合并解析
Sep 10 Python
python3.8下载及安装步骤详解
Jan 15 Python
python读取dicom图像示例(SimpleITK和dicom包实现)
Jan 16 Python
python实现二分查找算法
Sep 18 Python
实例讲解Python编程中@property装饰器的用法
Jun 20 #Python
Python的包管理器pip更换软件源的方法详解
Jun 20 #Python
python3.5使用tkinter制作记事本
Jun 20 #Python
浅谈python抛出异常、自定义异常, 传递异常
Jun 20 #Python
python3 与python2 异常处理的区别与联系
Jun 19 #Python
浅谈Python的异常处理
Jun 19 #Python
qpython3 读取安卓lastpass Cookies
Jun 19 #Python
You might like
javascript面向对象编程(一) 实例代码
2010/06/25 Javascript
使用原生js写的一个简单slider
2014/04/29 Javascript
JavaScript判断FileUpload控件上传文件类型
2015/09/28 Javascript
去除html代码里面的script正则方法
2016/05/19 Javascript
AngularJs 指令详解及示例代码
2016/09/01 Javascript
javascript入门之window对象【新手必看】
2016/11/22 Javascript
详解原生js实现offset方法
2017/06/15 Javascript
关于页面刷新vuex数据消失问题解决方案
2017/07/03 Javascript
150行代码带你实现微信小程序中的数据侦听
2019/05/17 Javascript
js实现多个标题吸顶效果
2020/01/08 Javascript
javascript this指向相关问题及改变方法
2020/11/19 Javascript
vue二选一tab栏切换新做法实现
2021/01/19 Vue.js
跟老齐学Python之有容乃大的list(2)
2014/09/15 Python
Python选择排序、冒泡排序、合并排序代码实例
2015/04/10 Python
Python实现批量更换指定目录下文件扩展名的方法
2016/09/19 Python
Python3.6 Schedule模块定时任务(实例讲解)
2017/11/09 Python
详解python中的Turtle函数库
2018/11/19 Python
python 将有序数组转换为二叉树的方法
2019/03/26 Python
Django使用Channels实现WebSocket的方法
2019/07/28 Python
Django用户认证系统 Web请求中的认证解析
2019/08/02 Python
Python使用__new__()方法为对象分配内存及返回对象的引用示例
2019/09/20 Python
创建Shapefile文件并写入数据的例子
2019/11/26 Python
Python读入mnist二进制图像文件并显示实例
2020/04/24 Python
python同时遍历两个list用法说明
2020/05/02 Python
解决启动django,浏览器显示“服务器拒绝访问”的问题
2020/05/13 Python
音频处理 windows10下python三方库librosa安装教程
2020/06/20 Python
h5页面背景图很长要有滚动条滑动效果的实现
2021/01/27 HTML / CSS
国外平面设计素材网站:The Hungry JPEG
2017/03/28 全球购物
Linux中如何用命令创建目录
2016/12/02 面试题
大学生专科毕业生自我评价
2013/11/17 职场文书
大门门卫岗位职责
2013/11/30 职场文书
母亲追悼会答谢词
2014/01/27 职场文书
群众路线教育实践活动个人对照检查材料
2014/09/22 职场文书
2015年机关作风和效能建设工作总结
2015/07/23 职场文书
mongodb数据库迁移变更的解决方案
2021/09/04 MongoDB
Nginx配置根据url参数重定向
2022/04/11 Servers