python多进程使用函数封装实例


Posted in Python onMay 02, 2020

我就废话不多说了,直接看代码吧!

import multiprocessing as mp
from multiprocessing import Process
class MyProcess(Process):
  """
  自定义多进程,继承自原生Process,目的是获取多进程结果到queue
  """
  def __init__(self, func, args, q):
    super(MyProcess, self).__init__()
    self.func = func
    self.args = args
    self.res = ''
    self.q = q
    #self._daemonic = True
    #self._daemonic = True
 
  def run(self):
    self.res = self.func(*self.args)
    self.q.put((self.func.__name__, self.res))
  
def use_multiprocessing(func_list):
  #os.system('export PYTHONOPTIMIZE=1') # 解决 daemonic processes are not allowed to have children 问题
  q = mp.Queue() # 队列,将多进程结果存入这里,进程间共享, 多进程必须使用 multiprocessing 的queue
  proc_list = []
  res = []
  for func in func_list:
    proc = MyProcess(func['func'], args=func['args'], q=q)
    proc.start()
    proc_list.append(proc)
 
  for p in proc_list:
    p.join()
  while not q.empty():
    r = q.get()
    res.append(r)
  return res

使用时候,将需要多进程执行的函数和函数的参数当作字段,组成个list 传给use_multiprocessing 方法即可

补充知识:python一个文件里面多个函数同时执行(多进程的方法,并发)

看代码吧!

#coding=utf-8
import time
from selenium import webdriver
import threading

def fun1(a):
print a

def fun2():

print 222

threads = []
threads.append(threading.Thread(target=fun1,args=(u'爱情买卖',)))
threads.append(threading.Thread(target=fun2))
print(threads)
if __name__ == '__main__':

for t in threads:


t.setDaemon(True) #我拿来做selenium自动化模拟多个用户使用浏览器的时候,加了这个就启动不了,要去掉


t.start()

import threading

首先导入threading 模块,这是使用多线程的前提。

threads = []
t1 = threading.Thread(target=fun1,args=(u'爱情买卖',))
threads.append(t1)

创建了threads数组,创建线程t1,使用threading.Thread()方法,在这个方法中调用music方法target=music,args方法对music进行传参。 把创建好的线程t1装到threads数组中。

接着以同样的方式创建线程t2,并把t2也装到threads数组。

for t in threads:
t.setDaemon(True)

t.start()

最后通过for循环遍历数组。(数组被装载了t1和t2两个线程)

setDaemon()

setDaemon(True)将线程声明为守护线程,必须在start() 方法调用之前设置,如果不设置为守护线程程序会被无限挂起。子线程启动后,父线程也继续执行下去,当父线程执行完最后一条语句print "all over %s" %ctime()后,没有等待子线程,直接就退出了,同时子线程也一同结束。

start()

开始线程活动。

后记:

搞了个并发浏览器操作,

如果要做参数化,用ddt会导致所有行为都在一个浏览器操作,去掉ddt框架后,并发正常

以上这篇python多进程使用函数封装实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
linux环境下安装pyramid和新建项目的步骤
Nov 27 Python
Python实现扫描局域网活动ip(扫描在线电脑)
Apr 28 Python
Python查找两个有序列表中位数的方法【基于归并算法】
Apr 20 Python
python利用requests库进行接口测试的方法详解
Jul 06 Python
python的pip安装以及使用教程
Sep 18 Python
Gauss-Seidel迭代算法的Python实现详解
Jun 29 Python
python requests使用socks5的例子
Jul 25 Python
Python+OpenCv制作证件图片生成器的操作方法
Aug 21 Python
python实现异常信息堆栈输出到日志文件
Dec 26 Python
Python抓新型冠状病毒肺炎疫情数据并绘制全国疫情分布的代码实例
Feb 05 Python
Python操作Jira库常用方法解析
Apr 10 Python
numpy库reshape用法详解
Apr 19 Python
Python中使用filter过滤列表的一个小技巧分享
May 02 #Python
python同时遍历两个list用法说明
May 02 #Python
python多线程实现同时执行两个while循环的操作
May 02 #Python
python 实现两个线程交替执行
May 02 #Python
Python中使用threading.Event协调线程的运行详解
May 02 #Python
浅谈Python3多线程之间的执行顺序问题
May 02 #Python
python继承threading.Thread实现有返回值的子类实例
May 02 #Python
You might like
火车采集器 免费版使出收费版本功能实现原理
2009/09/17 PHP
php Smarty 字符比较代码
2011/02/27 PHP
基于PHPExcel的常用方法总结
2013/06/13 PHP
深入解析PHP内存管理之谁动了我的内存
2013/06/20 PHP
ThinkPHP自动转义存储富文本编辑器内容导致读取出错的解决方法
2014/08/08 PHP
WordPress中重置文章循环的rewind_posts()函数讲解
2016/01/11 PHP
php处理json格式数据经典案例总结
2016/05/19 PHP
比较完整的微信开发php代码
2016/08/02 PHP
PHP登录(ajax提交数据和后台校验)实例分享
2016/12/29 PHP
ThinkPHP 5.x远程命令执行漏洞复现
2019/09/23 PHP
基于jquery的多彩百分比 动态进度条 投票效果显示效果实现代码
2011/08/28 Javascript
JS实现图片无间断滚动代码汇总
2014/07/30 Javascript
Jquery简单分页实现方法
2015/07/24 Javascript
AngularJS基础 ng-include 指令简单示例
2016/08/01 Javascript
基于JS实现翻书效果的页面切换样式
2017/02/16 Javascript
bootstrap fileinput 插件使用项目总结(经验)
2017/02/22 Javascript
解决IE7中使用jQuery动态操作name问题
2017/08/28 jQuery
nodejs 图片预览和上传的示例代码
2017/09/30 NodeJs
jQuery动态添加li标签并添加属性和绑定事件方法
2018/02/24 jQuery
微信小程序导航栏滑动定位功能示例(实现CSS3的positionsticky效果)
2019/01/24 Javascript
Vue数组响应式操作及高阶函数使用代码详解
2020/08/01 Javascript
Python实现破解12306图片验证码的方法分析
2017/12/29 Python
Zookeeper接口kazoo实例解析
2018/01/22 Python
pandas系列之DataFrame 行列数据筛选实例
2018/04/12 Python
Python中按键来获取指定的值
2019/03/02 Python
Flask框架 CSRF 保护实现方法详解
2019/10/30 Python
解决 jupyter notebook 回车换两行问题
2020/04/15 Python
python3 googletrans超时报错问题及翻译工具优化方案 附源码
2020/12/23 Python
英国最大线上综合鞋类商城:Office
2017/12/08 全球购物
德国圣伯纳德草药屋:Kräuterhaus Sanct Bernhard(有中文站)
2018/08/05 全球购物
机修工岗位职责
2013/11/24 职场文书
电力培训心得体会
2014/09/02 职场文书
员工年度工作总结2015
2015/05/18 职场文书
2016年五一劳动节专题校园广播稿
2015/12/17 职场文书
教师学习中国梦心得体会
2016/01/05 职场文书
导游词之绍兴柯岩古镇
2020/01/09 职场文书