学会迭代器设计模式,帮你大幅提升python性能


Posted in Python onJanuary 03, 2021

大家好,我们的git专题已经更新结束了,所以开始继续给大家写一点设计模式的内容。

今天给大家介绍的设计模式非常简单,叫做iterator,也就是迭代器模式。迭代器是Python语言当中一个非常重要的内容,借助迭代器我们可以很方便地实现很多复杂的功能。在深度学习当中,数据的获取往往也是通过迭代器实现的。因此这部分的内容非常重要,推荐大家一定要掌握。

简单案例

在开始介绍设计模式之前,我们先来看一个简单的需求。假设现在我们需要根据传入的变量获取每周的前几天,比如说我们传入3返回的就是[Mon, Tue, Wed],我们传入5返回[Mon, Tue, Wed, Thu, Fri]。这个需求大家应该都能理解,非常非常简单。

如果用一个函数来实现的话,就是这样:

def return_days(n):
    week = ['Mon', 'Tue', 'Wed', 'Thu', 'Fri', 'Sat', 'Sun']
    return week[:n]

你看三行代码就实现了,在这个问题场景当中这样写当然是没有问题。但假如我们把题目稍微变一变,这里的week不是一个固定的数据,而是从上游或者是某个文件当中读取的。这里的n也是一个很大的数,我们把这个函数改写成这样:

def get_data(n):
    data = []
    for i in range(n):
        data.append(get_from_upstream())
    return data

我们假设get_from_upstream这个函数当中实现了获取数据的具体逻辑,那么上面这一段函数有一个什么问题?

有些同学会说这没有问题啊,因为像是其他语言实现数据获取的时候也都是这么干的。的确,像是Java等语言可能都是这么干的。但是其他语言这么干没错,不代表Python这么干也没错。因为我们没有把Python的能力发挥到最大。

这里有两个问题,第一个问题是延迟,因为前面说了,n是一个很大的数。我们从上游获取数据,无论是通过网络还是文件读取,本质上都是IO操作,IO操作的延迟是非常大的。那么我们把这n条数据全部搜集完可能需要很长的时间,导致下游的漫长等待。第二个问题就是内存,因为我们存储了这n条数据一起返回的,如果n很大,对于内存的开销压力也很大,如果机器内存不够很有可能导致崩溃。

那怎么解决呢?

其实解决的方法很简单,如果对迭代器熟悉的话,会发现迭代器针对的恰恰是这两个问题。我们把上面的逻辑改写成迭代器实现即可,这也就是iterator模式。

iterator模式

iterator模式严格说起来其实只是迭代器的一种应用,它非常巧妙地将迭代器与匿名函数结合在一起,里面也没有太多的门道可以说,我们把刚才的代码改写一下,细节都在代码当中。

def get_data(n):
    for i in range(n):
  yield get_from_upstream()


data_10 = lambda: get_data(10)
data_100 = lambda: get_data(100)

# use
for d in data_10:
    print(d)

很简单吧,但可能你要问了,我们既然写出了get_data这个迭代器,那么我们使用的时候直接for d in get_data(10)这样用不就好了,为什么中间要用匿名函数包一层呢?

道理也很简单,如果这个数据是我们自己使用,当然是没必要中间包一层的。但如果我们是传给下游使用的话,对于下游来说它肯定是不希望考虑上游太多的细节的,越简单越好。所以我们直接丢一个包装好的迭代器过去,下游直接call即可。否则的话,下游还需要感知get_data这个函数传入的参数,显然是不够合理的。

以上就是学会迭代器设计模式,帮你大幅提升python性能的详细内容,更多关于python 迭代器设计模式的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
一则python3的简单爬虫代码
May 26 Python
python之wxPython应用实例
Sep 28 Python
用Python登录Gmail并发送Gmail邮件的教程
Apr 17 Python
Python实例一个类背后发生了什么
Feb 09 Python
Python第三方库xlrd/xlwt的安装与读写Excel表格
Jan 21 Python
DataFrame 将某列数据转为数组的方法
Apr 13 Python
对Python字符串中的换行符和制表符介绍
May 03 Python
对python-3-print重定向输出的几种方法总结
May 11 Python
python turtle工具绘制四叶草的实例分享
Feb 14 Python
Python 自由定制表格的实现示例
Mar 20 Python
解决Python中导入自己写的类,被划红线,但不影响执行的问题
Jul 13 Python
Python办公自动化解决world文件批量转换
Sep 15 Python
Python编写万花尺图案实例
Jan 03 #Python
Python 实现一个简单的web服务器
Jan 03 #Python
关于Python错误重试方法总结
Jan 03 #Python
详解python中的异常和文件读写
Jan 03 #Python
python绘制雷达图实例讲解
Jan 03 #Python
python 使用xlsxwriter循环向excel中插入数据和图片的操作
Jan 01 #Python
python安装mysql的依赖包mysql-python操作
Jan 01 #Python
You might like
Laravel 5框架学习之Eloquent (laravel 的ORM)
2015/04/08 PHP
简单实用的PHP文本缓存类实例
2019/03/22 PHP
网站页面自动跳转实现方法PHP、JSP(下)
2010/08/01 Javascript
Javascript调用C#代码
2011/01/17 Javascript
jquery 延迟执行实例介绍
2013/08/20 Javascript
jQuery中校验时间格式的正则表达式小结
2013/09/22 Javascript
常见的原始JS选择器使用方法总结
2014/04/09 Javascript
jquery获取radio值实例
2014/10/16 Javascript
javascript检测flash插件是否被禁用的方法
2016/01/14 Javascript
Bootstrap页面布局基础知识全面解析
2016/06/13 Javascript
HTML5 实现的一个俄罗斯方块实例代码
2016/09/19 Javascript
微信小程序教程系列之新建页面(4)
2017/04/17 Javascript
微信小程序 空白页重定向解决办法
2017/06/27 Javascript
JavaScript之DOM插入更新删除_动力节点Java学院整理
2017/07/03 Javascript
Vue中的slot使用插槽分发内容的方法
2018/03/01 Javascript
AjaxUpLoad.js实现文件上传
2018/03/05 Javascript
Vue表单控件数据绑定方法详解
2020/02/05 Javascript
JS实现按比例缩小图片宽高
2020/08/24 Javascript
python向已存在的excel中新增表,不覆盖原数据的实例
2018/05/02 Python
Numpy数据类型转换astype,dtype的方法
2018/06/09 Python
python使用epoll实现服务端的方法
2018/10/16 Python
Python地图绘制实操详解
2019/03/04 Python
Python利用sqlacodegen自动生成ORM实体类示例
2019/06/04 Python
Python使用get_text()方法从大段html中提取文本的实例
2019/08/27 Python
关于matplotlib-legend 位置属性 loc 使用说明
2020/05/16 Python
解决TensorFlow程序无限制占用GPU的方法
2020/06/30 Python
Mankind美国/加拿大:英国领先的男士美容护发用品公司
2018/12/05 全球购物
婚鞋、新娘鞋、礼服鞋、童鞋:Nina Shoes
2019/09/04 全球购物
人事主管岗位职责范本
2013/12/04 职场文书
暑期研修感言
2014/02/17 职场文书
班主任个人工作反思
2014/04/28 职场文书
报考公务员诚信承诺书
2014/08/29 职场文书
2019年度开业庆典祝福语大全!
2019/07/05 职场文书
golang import自定义包方式
2021/04/29 Golang
Mybatis是这样防止sql注入的
2021/12/06 Java/Android
讲解MySQL增删改操作
2022/05/06 MySQL