对于Python中线程问题的简单讲解


Posted in Python onApril 03, 2015

我们将会看到一些在Python中使用线程的实例和如何避免线程之间的竞争。你应当将下边的例子运行多次,以便可以注意到线程是不可预测的和线程每次运行出的不同结果。声明:从这里开始忘掉你听到过的关于GIL的东西,因为GIL不会影响到我想要展示的东西。

示例1

我们将要请求五个不同的url:
单线程
 

import time
import urllib2
 
def get_responses():
 urls = [
  'http://www.google.com',
  'http://www.amazon.com',
  'http://www.ebay.com',
  'http://www.alibaba.com',
  'http://www.reddit.com'
 ]
 start = time.time()
 for url in urls:
  print url
  resp = urllib2.urlopen(url)
  print resp.getcode()
 print "Elapsed time: %s" % (time.time()-start)
 
get_responses()

输出是:
 

http://www.google.com 200
http://www.amazon.com 200
http://www.ebay.com 200
http://www.alibaba.com 200
http://www.reddit.com 200
Elapsed time: 3.0814409256

解释:

  •     url顺序的被请求
  •     除非cpu从一个url获得了回应,否则不会去请求下一个url
  •     网络请求会花费较长的时间,所以cpu在等待网络请求的返回时间内一直处于闲置状态。

多线程
 

import urllib2
import time
from threading import Thread
 
class GetUrlThread(Thread):
 def __init__(self, url):
  self.url = url
  super(GetUrlThread, self).__init__()
 
 def run(self):
  resp = urllib2.urlopen(self.url)
  print self.url, resp.getcode()
 
def get_responses():
 urls = [
  'http://www.google.com',
  'http://www.amazon.com',
  'http://www.ebay.com',
  'http://www.alibaba.com',
  'http://www.reddit.com'
 ]
 start = time.time()
 threads = []
 for url in urls:
  t = GetUrlThread(url)
  threads.append(t)
  t.start()
 for t in threads:
  t.join()
 print "Elapsed time: %s" % (time.time()-start)
 
get_responses()

输出:
 

http://www.reddit.com 200
http://www.google.com 200
http://www.amazon.com 200
http://www.alibaba.com 200
http://www.ebay.com 200
Elapsed time: 0.689890861511

解释:

  •     意识到了程序在执行时间上的提升
  •     我们写了一个多线程程序来减少cpu的等待时间,当我们在等待一个线程内的网络请求返回时,这时cpu可以切换到其他线程去进行其他线程内的网络请求。
  •     我们期望一个线程处理一个url,所以实例化线程类的时候我们传了一个url。
  •     线程运行意味着执行类里的run()方法。
  •     无论如何我们想每个线程必须执行run()。
  •     为每个url创建一个线程并且调用start()方法,这告诉了cpu可以执行线程中的run()方法了。
  •     我们希望所有的线程执行完毕的时候再计算花费的时间,所以调用了join()方法。
  •     join()可以通知主线程等待这个线程结束后,才可以执行下一条指令。
  •     每个线程我们都调用了join()方法,所以我们是在所有线程执行完毕后计算的运行时间。

关于线程:

  •     cpu可能不会在调用start()后马上执行run()方法。
  •     你不能确定run()在不同线程建间的执行顺序。
  •     对于单独的一个线程,可以保证run()方法里的语句是按照顺序执行的。
  •     这就是因为线程内的url会首先被请求,然后打印出返回的结果。

实例2

我们将会用一个程序演示一下多线程间的资源竞争,并修复这个问题。
 

from threading import Thread
 
#define a global variable
some_var = 0
 
class IncrementThread(Thread):
 def run(self):
  #we want to read a global variable
  #and then increment it
  global some_var
  read_value = some_var
  print "some_var in %s is %d" % (self.name, read_value)
  some_var = read_value + 1
  print "some_var in %s after increment is %d" % (self.name, some_var)
 
def use_increment_thread():
 threads = []
 for i in range(50):
  t = IncrementThread()
  threads.append(t)
  t.start()
 for t in threads:
  t.join()
 print "After 50 modifications, some_var should have become 50"
 print "After 50 modifications, some_var is %d" % (some_var,)
 
use_increment_thread()

多次运行这个程序,你会看到多种不同的结果。

解释:

  •     有一个全局变量,所有的线程都想修改它。
  •     所有的线程应该在这个全局变量上加 1 。
  •     有50个线程,最后这个数值应该变成50,但是它却没有。

为什么没有达到50?

  •     在some_var是15的时候,线程t1读取了some_var,这个时刻cpu将控制权给了另一个线程t2。
  •     t2线程读到的some_var也是15
  •     t1和t2都把some_var加到16
  •     当时我们期望的是t1 t2两个线程使some_var + 2变成17
  •     在这里就有了资源竞争。
  •     相同的情况也可能发生在其它的线程间,所以出现了最后的结果小于50的情况。

解决资源竞争
 

from threading import Lock, Thread
lock = Lock()
some_var = 0
 
class IncrementThread(Thread):
 def run(self):
  #we want to read a global variable
  #and then increment it
  global some_var
  lock.acquire()
  read_value = some_var
  print "some_var in %s is %d" % (self.name, read_value)
  some_var = read_value + 1
  print "some_var in %s after increment is %d" % (self.name, some_var)
  lock.release()
 
def use_increment_thread():
 threads = []
 for i in range(50):
  t = IncrementThread()
  threads.append(t)
  t.start()
 for t in threads:
  t.join()
 print "After 50 modifications, some_var should have become 50"
 print "After 50 modifications, some_var is %d" % (some_var,)
 
use_increment_thread()

再次运行这个程序,达到了我们预期的结果。

解释:

  •     Lock 用来防止竞争条件
  •     如果在执行一些操作之前,线程t1获得了锁。其他的线程在t1释放Lock之前,不会执行相同的操作
  •     我们想要确定的是一旦线程t1已经读取了some_var,直到t1完成了修改some_var,其他的线程才可以读取some_var
  •     这样读取和修改some_var成了逻辑上的原子操作。

实例3

让我们用一个例子来证明一个线程不能影响其他线程内的变量(非全局变量)。

time.sleep()可以使一个线程挂起,强制线程切换发生。
 

from threading import Thread
import time
 
class CreateListThread(Thread):
 def run(self):
  self.entries = []
  for i in range(10):
   time.sleep(1)
   self.entries.append(i)
  print self.entries
 
def use_create_list_thread():
 for i in range(3):
  t = CreateListThread()
  t.start()
 
use_create_list_thread()

运行几次后发现并没有打印出争取的结果。当一个线程正在打印的时候,cpu切换到了另一个线程,所以产生了不正确的结果。我们需要确保print self.entries是个逻辑上的原子操作,以防打印时被其他线程打断。

我们使用了Lock(),来看下边的例子。
 

from threading import Thread, Lock
import time
 
lock = Lock()
 
class CreateListThread(Thread):
 def run(self):
  self.entries = []
  for i in range(10):
   time.sleep(1)
   self.entries.append(i)
  lock.acquire()
  print self.entries
  lock.release()
 
def use_create_list_thread():
 for i in range(3):
  t = CreateListThread()
  t.start()
use_create_list_thread()

这次我们看到了正确的结果。证明了一个线程不可以修改其他线程内部的变量(非全局变量)。

Python 相关文章推荐
Python中的字符串查找操作方法总结
Jun 27 Python
python3中zip()函数使用详解
Jun 29 Python
python os.listdir按文件存取时间顺序列出目录的实例
Oct 21 Python
Python3爬虫之自动查询天气并实现语音播报
Feb 21 Python
Python中使用__new__实现单例模式并解析
Jun 25 Python
python生成随机红包的实例写法
Sep 02 Python
TensorFlow实现自定义Op方式
Feb 04 Python
jupyter notebook 重装教程
Apr 16 Python
Python装饰器结合递归原理解析
Jul 02 Python
Keras 在fit_generator训练方式中加入图像random_crop操作
Jul 03 Python
Python用摘要算法生成token及检验token的示例代码
Dec 01 Python
Django如何重置migration的几种情景
Feb 24 Python
python BeautifulSoup设置页面编码的方法
Apr 03 #Python
用Python编写一个简单的FUSE文件系统的教程
Apr 02 #Python
用Python中的__slots__缓存资源以节省内存开销的方法
Apr 02 #Python
用Python的线程来解决生产者消费问题的示例
Apr 02 #Python
用实例分析Python中method的参数传递过程
Apr 02 #Python
使用优化器来提升Python程序的执行效率的教程
Apr 02 #Python
使用Python脚本对Linux服务器进行监控的教程
Apr 02 #Python
You might like
PHP编程函数安全篇
2013/01/08 PHP
php简单创建zip压缩文件的方法
2016/04/30 PHP
PHP的PDO错误与错误处理
2019/01/27 PHP
PHP safe_mode开启对于PHP系统函数有什么影响
2020/11/10 PHP
一个加载js文件的小脚本
2007/06/28 Javascript
Jquery实现无刷新DropDownList联动实现代码
2010/03/08 Javascript
百度UEditor编辑器如何关闭抓取远程图片功能
2015/03/03 Javascript
javascript实现校验文件上传控件实例
2015/04/20 Javascript
微信QQ的二维码登录原理js代码解析
2016/06/23 Javascript
实例分析浏览器中“JavaScript解析器”的工作原理
2016/12/12 Javascript
教你一步步用jQyery实现轮播器
2016/12/18 Javascript
Bootstrap table使用方法总结
2017/05/10 Javascript
JavaScript累加、迭代、穷举、递归等常用算法实例小结
2018/05/08 Javascript
Bootstrap Paginator+PageHelper实现分页效果
2018/12/29 Javascript
jquery添加div实现消息聊天框
2020/02/08 jQuery
JSON stringify方法原理及实例解析
2020/10/23 Javascript
python条件和循环的使用方法
2013/11/01 Python
python实现目录树生成示例
2014/03/28 Python
python实现简单的TCP代理服务器
2014/10/08 Python
Python中的lstrip()方法使用简介
2015/05/19 Python
Django项目使用CircleCI的方法示例
2019/07/14 Python
Python函数装饰器原理与用法详解
2019/08/16 Python
Python3爬虫发送请求的知识点实例
2020/07/30 Python
详解CSS 3 中的 calc() 方法
2018/01/12 HTML / CSS
全世界最美丽的四星和五星级酒店预订:Prestigia.com
2017/11/15 全球购物
固特异美国在线轮胎店:Goodyear Tire
2019/02/23 全球购物
数百万免费的图形资源:Freepik
2020/09/21 全球购物
理货员的岗位职责
2013/11/23 职场文书
弘扬职业精神演讲稿
2014/03/20 职场文书
公司授权委托书范文
2014/08/02 职场文书
个人租房协议书(范本)
2014/10/14 职场文书
2014年反洗钱工作总结
2014/11/22 职场文书
新郎婚礼答谢词
2015/01/04 职场文书
上课睡觉万能检讨书
2015/02/17 职场文书
辩护词格式
2015/05/22 职场文书
《风娃娃》教学反思
2016/02/18 职场文书