基于python的多进程共享变量正确打开方式


Posted in Python onApril 28, 2018

多进程共享变量和获得结果

由于工程需求,要使用多线程来跑一个程序。但是因为听说python的多线程是假的,于是使用多进程,反正任务需要共享的参数少。

查阅资料,发现实现多进程主要使用Multiprocessing,有两种方式,一种是Process,另一种是Pool。

p = Process(target=fun,args=(args))

再通过p.start()来启动一个子进程,通过p.join()方法来使得子进程运行结束后再执行父进程。

但是这样很烦,还要写个for 循环来开n个线程和join。

于是推荐用Pool。它可以开一个固定大小的进程池,然后每个线程执行apply_async()函数调用要执行的函数,最后再close和join。

代码如下:

pathm=Manager().Queue(len(pathlist))
for d in pathlist:
 pathm.put(d)
p=Pool(cp.threads)
results=[]
for i in range(cp.threads):
 temp=p.apply_async(ProcessWorker,args=(i,pathm,cp))
 results.append(temp)
print 'Waiting for all subprocesses done...'
p.close()
p.join()
print 'All subprocesses finish Processing.'
results=[r.get() for r in results]

上面的代码演示了如何使用pool多进程,如何在Pool里的进程之间共享变量pathm,以及如何获得进程函数执行的结果。需要注意的是,ProcessWorker必须是个无界的函数,否则报错该函数无法被pickle从而不能分配到各个进程。

cPickle.PicklingError: Can't pickle <type 'instancemethod'>: attribute lookup __builtin__.instancemethod failed

有界函数和python的多进程机制

从上面引申到了一个概念,就是有界函数无界函数的概念。

查阅资料之后我总结如下:

有界函数是包在一个类中,并且只有当类被实例化之后才能使用的函数,它的界就是这个实例。我们常常把这些函数称为类方法。例如以self为参数的类方法。

无界函数可以是没有被包在类中的函数,也可以是类中的静态方法,它们跟类是独立的。如类中的静态方法,它即使在某个类中被定义,但是不能访问类中的参数和其他方法。

python多进程的机制应该是把每个进程要调用的方法和传入的参数(如上面例子中的ProcessWorker)编译然后打包,然后复制到每个进程中执行。如果输入的是一个有界函数,那么它的参数应该是它所属的类(包括参数和方法),但是这是无法获得的,而且类属性和方法可能会有坑,导致难以打包。所以python限定了多进程要调用的函数不能是类方法。

我们要把多进程调用的函数放到类外面,或者变成静态函数。但是静态函数的话不能被所属的类的方法调用(self.ProcessWorker的形式),需要在外部调用,如mc=MyClass(),mc.ProcessWorker来调用,或者MyClass().ProcessWorker来调用。

以上这篇基于python的多进程共享变量正确打开方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python异常和文件处理机制详解
Jul 19 Python
Python实现屏幕截图的代码及函数详解
Oct 01 Python
Python跨文件全局变量的实现方法示例
Dec 10 Python
jupyter notebook引用from pyecharts.charts import Bar运行报错
Apr 23 Python
python 创建一个空dataframe 然后添加行数据的实例
Jun 07 Python
python程序控制NAO机器人行走
Apr 29 Python
详解Python中的测试工具
Jun 09 Python
解决Pycharm 导入其他文件夹源码的2种方法
Feb 12 Python
python如何判断IP地址合法性
Apr 05 Python
Django模板标签{% for %}循环,获取制定条数据实例
May 14 Python
python实现定时发送邮件到指定邮箱
Dec 23 Python
python 爬取豆瓣网页的示例
Apr 13 Python
基于Python log 的正确打开方式
Apr 28 #Python
python+pandas分析nginx日志的实例
Apr 28 #Python
详谈套接字中SO_REUSEPORT和SO_REUSEADDR的区别
Apr 28 #Python
python实现关键词提取的示例讲解
Apr 28 #Python
python实现扫描日志关键字的示例
Apr 28 #Python
python socket网络编程之粘包问题详解
Apr 28 #Python
在Windows中设置Python环境变量的实例讲解
Apr 28 #Python
You might like
Yii框架在页面输出执行sql语句以方便调试的实现方法
2014/12/24 PHP
YII框架学习笔记之命名空间、操作响应与视图操作示例
2019/04/30 PHP
JS中setTimeout()的用法详解
2013/04/14 Javascript
自己动手实现jQuery Callbacks完整功能代码详解
2013/11/25 Javascript
JavaScript简单表格编辑功能实现方法
2015/04/16 Javascript
详解Angular.js数据绑定时自动转义html标签及内容
2017/03/30 Javascript
从零开始学习Node.js系列教程之基于connect和express框架的多页面实现数学运算示例
2017/04/13 Javascript
Vue-cli创建项目从单页面到多页面的方法
2017/09/20 Javascript
jquery实现左右轮播图效果
2017/09/28 jQuery
浅谈Webpack自动化构建实践指南
2017/12/18 Javascript
vue2.0 自定义组件的方法(vue组件的封装)
2018/06/05 Javascript
使用JS代码实现俄罗斯方块游戏
2018/08/03 Javascript
使用vue-cli3+typescript的项目模板创建工程的教程
2020/02/28 Javascript
js实现拾色器插件(ColorPicker)
2020/05/21 Javascript
JSON获取属性值方法代码实例
2020/06/30 Javascript
python协程用法实例分析
2015/06/04 Python
通过数据库向Django模型添加字段的示例
2015/07/21 Python
浅谈Python 字符串格式化输出(format/printf)
2016/07/21 Python
Python2.7下安装Scrapy框架步骤教程
2017/12/22 Python
Python利用字典将两个通讯录文本合并为一个文本实例
2018/01/16 Python
Django rest framework实现分页的示例
2018/05/24 Python
Python 3.x基于Xml数据的Http请求方法
2018/12/28 Python
python中正则表达式与模式匹配
2019/05/07 Python
PowerBI和Python关于数据分析的对比
2019/07/11 Python
关于python中密码加盐的学习体会小结
2019/07/15 Python
HTML5使用DOM进行自定义控制示例代码
2013/06/08 HTML / CSS
自我鉴定思想方面
2013/10/07 职场文书
护理专业优质毕业生自荐书
2014/01/31 职场文书
物流专员岗位职责
2014/02/17 职场文书
个人查摆剖析材料
2014/10/04 职场文书
学习师德师风的心得体会(2篇)
2019/10/08 职场文书
Python爬虫实战之爬取携程评论
2021/06/02 Python
JavaScript实现简单计时器
2021/06/22 Javascript
Redis性能监控的实现
2021/07/09 Redis
windows11怎么查看自己安装的版本号? win11版本号的查看方法
2021/11/21 数码科技
Python使用socket去实现TCP客户端和TCP服务端
2022/04/12 Python