Python多线程原理与用法实例剖析


Posted in Python onJanuary 22, 2019

本文实例讲述了Python多线程原理与用法。分享给大家供大家参考,具体如下:

先来看个栗子:

下面来看一下I/O秘籍型的线程,举个栗子——爬虫,下面是爬下来的图片用4个线程去写文件

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import re
import urllib
import threading
import Queue
import timeit
def getHtml(url):
  html_page = urllib.urlopen(url).read()
  return html_page
# 提取网页中图片的URL
def getUrl(html):
  pattern = r'src="(http://img.*?)"' # 正则表达式
  imgre = re.compile(pattern)
  imglist = re.findall(imgre, html) # re.findall(pattern,string) 在string中寻找所有匹配成功的字符串,以列表形式返回值
  return imglist
class getImg(threading.Thread):
  def __init__(self, queue, thread_name=0): # 线程公用一个队列
    threading.Thread.__init__(self)
    self.queue = queue
    self.thread_name = thread_name
    self.start() # 启动线程
  # 使用队列实现进程间通信
  def run(self):
    global count
    while (True):
      imgurl = self.queue.get() # 调用队列对象的get()方法从队头删除并返回一个项目
      urllib.urlretrieve(imgurl, 'E:\mnt\girls\%s.jpg' % count)
      count += 1
      if self.queue.empty():
        break
      self.queue.task_done() # 当使用者线程调用 task_done() 以表示检索了该项目、并完成了所有的工作时,那么未完成的任务的总数就会减少。
imglist = []
def main():
  global imglist
  url = "http://huaban.com/favorite/beauty/" # 要爬的网页地址
  html = getHtml(url)
  imglist = getUrl(html)
def main_1():
  global count
  threads = []
  count = 0
  queue = Queue.Queue()
  # 将所有任务加入队列
  for img in imglist:
    queue.put(img)
  # 多线程爬去图片
  for i in range(4):
    thread = getImg(queue, i)
    threads.append(thread)
  # 阻塞线程,直到线程执行完成
  for thread in threads:
    thread.join()
if __name__ == '__main__':
  main()
  t = timeit.Timer(main_1)
  print t.timeit(1)

4个线程的执行耗时为:0.421320716723秒

修改一下main_1换成单线程的:

def main_1():
  global count
  threads = []
  count = 0
  queue = Queue.Queue()
  # 将所有任务加入队列
  for img in imglist:
    queue.put(img)
  # 多线程爬去图片
  for i in range(1):
    thread = getImg(queue, i)
    threads.append(thread)
  # 阻塞线程,直到线程执行完成
  for thread in threads:
    thread.join()

单线程的执行耗时为:1.35626623274秒

Python多线程原理与用法实例剖析

再来看一个:

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import threading
import timeit
def countdown(n):
  while n > 0:
    n -= 1
def task1():
  COUNT = 100000000
  thread1 = threading.Thread(target=countdown, args=(COUNT,))
  thread1.start()
  thread1.join()
def task2():
  COUNT = 100000000
  thread1 = threading.Thread(target=countdown, args=(COUNT // 2,))
  thread2 = threading.Thread(target=countdown, args=(COUNT // 2,))
  thread1.start()
  thread2.start()
  thread1.join()
  thread2.join()
if __name__ == '__main__':
  t1 = timeit.Timer(task1)
  print "countdown in one thread ", t1.timeit(1)
  t2 = timeit.Timer(task2)
  print "countdown in two thread ", t2.timeit(1)

task1是单线程,task2是双线程,在我的4核的机器上的执行结果:

countdown in one thread  3.59939150155

countdown in two thread  9.87704289712

天呐,双线程比单线程计算慢了2倍多,这是为什么呢,因为countdown是CPU密集型任务(计算嘛)

Python多线程原理与用法实例剖析

I/O密集型任务:线程做I/O处理的时候会释放GIL,其他线程获得GIL,当该线程再做I/O操作时,又会释放GIL,如此往复;

CPU密集型任务:在多核多线程比单核多线程更差,原因是单核多线程,每次释放GIL,唤醒的哪个线程都能获取到GIL锁,所以能够无缝执行(单核多线程的本质就是顺序执行),但多核,CPU0释放GIL后,其他CPU上的线程都会进行竞争,但GIL可能会马上又被CPU0(CPU0上可能不止一个线程)拿到,导致其他几个CPU上被唤醒后的线程会醒着等待到切换时间后又进入待调度状态,这样会造成线程颠簸(thrashing),导致效率更低。

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
python检测服务器是否正常
Feb 16 Python
八大排序算法的Python实现
Jan 28 Python
Python3的urllib.parse常用函数小结(urlencode,quote,quote_plus,unquote,unquote_plus等)
Sep 18 Python
python好玩的项目—色情图片识别代码分享
Nov 07 Python
小白如何入门Python? 制作一个网站为例
Mar 06 Python
python flask web服务实现更换默认端口和IP的方法
Jul 26 Python
在notepad++中实现直接运行python代码
Dec 18 Python
python批量处理txt文件的实例代码
Jan 13 Python
python实现AdaBoost算法的示例
Oct 03 Python
使用Python解析Chrome浏览器书签的示例
Nov 13 Python
python中scrapy处理项目数据的实例分析
Nov 22 Python
python中xlrd模块的使用详解
Feb 01 Python
python解析含有重复key的json方法
Jan 22 #Python
Python设计模式之简单工厂模式实例详解
Jan 22 #Python
对python字典过滤条件的实例详解
Jan 22 #Python
python实现淘宝秒杀脚本
Jun 23 #Python
python实现网页自动签到功能
Jan 21 #Python
python实现桌面壁纸切换功能
Jan 21 #Python
在Python中通过getattr获取对象引用的方法
Jan 21 #Python
You might like
php INI配置文件的解析实现分析
2011/01/04 PHP
php生成二维码的几种方式整理及使用实例
2013/06/03 PHP
php实现JWT验证的实例教程
2020/11/26 PHP
PHP序列化和反序列化深度剖析实例讲解
2020/12/29 PHP
基于jquery的跨域调用文件
2010/11/19 Javascript
jquery实现隐藏与显示动画效果/输入框字符动态递减/导航按钮切换
2013/07/01 Javascript
javascript如何实现360度全景照片问题汇总
2016/04/04 Javascript
onclick和onblur冲突问题的快速解决方法
2016/04/28 Javascript
轻松实现jquery选项卡切换效果
2016/10/10 Javascript
BootStrap Fileinput初始化时的一些参数
2016/12/30 Javascript
JS 在数组指定位置插入/删除数据的方法
2017/01/12 Javascript
jQuery表单插件ajaxForm实例详解
2017/01/17 Javascript
Angular.js基础学习之初始化
2017/03/10 Javascript
JS对象的深度克隆方法示例
2017/03/16 Javascript
Python学习笔记整理3之输入输出、python eval函数
2015/12/14 Python
Python 爬虫的工具列表大全
2016/01/31 Python
100行python代码实现跳一跳辅助程序
2018/01/15 Python
Python实现PS滤镜功能之波浪特效示例
2018/01/26 Python
Python安装pycurl失败的解决方法
2018/10/15 Python
Python3编码问题 Unicode utf-8 bytes互转方法
2018/10/26 Python
python将list转为matrix的方法
2018/12/12 Python
Python使用字典的嵌套功能详解
2019/02/27 Python
python socket通信编程实现文件上传代码实例
2019/12/14 Python
20佳惊艳的HTML5应用程序示例分享
2011/05/03 HTML / CSS
受希腊女神灵感的晚礼服、鸡尾酒礼服和婚纱:THEIA
2018/04/15 全球购物
马来西亚综合购物网站:Lazada马来西亚
2018/06/05 全球购物
俄语专业职业生涯规划
2014/02/26 职场文书
国家励志奖学金个人先进事迹材料
2014/05/04 职场文书
纪检监察建议书
2014/05/19 职场文书
拾金不昧锦旗标语
2014/06/27 职场文书
新闻学专业求职信
2014/07/28 职场文书
自主招生学校推荐信
2014/09/26 职场文书
初中英语教师个人工作总结
2015/02/09 职场文书
演讲稿之我的初心我的成长
2019/08/12 职场文书
MYSQL 的10大经典优化案例场景实战
2021/09/14 MySQL
深入理解go slice结构
2021/09/15 Golang