python线程池的实现实例


Posted in Python onNovember 18, 2013

直接上代码:

# -*- coding: utf-8 -*- 
import Queue 
import threading
import urllib
import urllib2
import os
def down(url,n):
    print 'item '+str(n)+' start '
    filename=urllib2.unquote(url).decode('utf8').split('/')[-1]
    urllib.urlretrieve(url, filename)
    print 'item '+str(n)+' finish '

def worker():
    while True:
        i = q.get()
        url=i[0]
        n=i[1]
        down(url,n)
        q.task_done()

if __name__=="__main__":
    num_worker_threads=100
    f=open('url.txt')
    l=f.readlines()
    q = Queue.Queue()
    for i in range(num_worker_threads):
        t = threading.Thread(target=worker)
        t.daemon = True
        t.start()
    for i in range(0,len(l)):
        q.put((l[i],i))
    q.join()
Python 相关文章推荐
Python Socket编程入门教程
Jul 11 Python
利用 python 对目录下的文件进行过滤删除
Dec 27 Python
对numpy中轴与维度的理解
Apr 18 Python
PyTorch学习笔记之回归实战
May 28 Python
Python学习小技巧总结
Jun 10 Python
Python实现的txt文件去重功能示例
Jul 07 Python
利用django-suit模板添加自定义的菜单、页面及设置访问权限
Jul 13 Python
python中的插值 scipy-interp的实现代码
Jul 23 Python
Python可视化mhd格式和raw格式的医学图像并保存的方法
Jan 24 Python
pytorch神经网络之卷积层与全连接层参数的设置方法
Aug 18 Python
解决Pycharm 包已经下载,但是运行代码提示找不到模块的问题
Aug 31 Python
Scrapy框架介绍之Puppeteer渲染的使用
Jun 19 Python
python批量导出导入MySQL用户的方法
Nov 15 #Python
python连接MySQL、MongoDB、Redis、memcache等数据库的方法
Nov 15 #Python
python实现代理服务功能实例
Nov 15 #Python
Python(Tornado)模拟登录小米抢手机
Nov 12 #Python
Python3实现的腾讯微博自动发帖小工具
Nov 11 #Python
python正则分组的应用
Nov 10 #Python
python Django连接MySQL数据库做增删改查
Nov 07 #Python
You might like
用 PHP5 轻松解析 XML
2006/12/04 PHP
PHP OPP机制和模式简介(抽象类、接口和契约式编程)
2014/06/09 PHP
php获取文件类型和文件信息的方法
2015/07/10 PHP
WordPress中缩略图的使用以及相关技巧
2015/11/24 PHP
PHP实现在数据库百万条数据中随机获取20条记录的方法
2017/04/19 PHP
php实现头像上传预览功能
2017/04/27 PHP
基于jQuery实现的Ajax 验证用户名是否存在的实现代码
2011/04/06 Javascript
分享27个jQuery 表单插件集合推荐
2011/04/25 Javascript
js实现倒计时(距离结束还有)示例代码
2013/07/24 Javascript
JQuery伸缩导航练习示例
2013/11/13 Javascript
jquery的trigger和triggerHandler的区别示例介绍
2014/04/20 Javascript
分享一则javascript 调试技巧
2015/01/02 Javascript
web前端开发upload上传头像js示例代码
2016/10/22 Javascript
bootstrap table 多选框分页保留示例代码
2017/03/08 Javascript
详解Vuejs2.0之异步跨域请求
2017/04/20 Javascript
深入理解Commonjs规范及Node模块实现
2017/05/17 Javascript
详解vue-cli快速构建项目以及引入bootstrap、jq
2017/05/26 Javascript
vue基础之事件简写、事件对象、冒泡、默认行为、键盘事件实例分析
2019/03/11 Javascript
[00:15]天涯墨客终极技能展示
2018/08/25 DOTA
python读取word文档的方法
2015/05/09 Python
Python下载懒人图库JavaScript特效
2015/05/28 Python
python将字符串以utf-8格式保存在txt文件中的方法
2018/10/30 Python
树莓派使用python-librtmp实现rtmp推流h264的方法
2019/07/22 Python
CSS3结构性伪类选择器九种写法
2012/04/18 HTML / CSS
瑜伽灵感珠宝:Satya Jewelry
2018/01/06 全球购物
请写出 BOOL flag 与"零值"比较的 if 语句
2016/02/29 面试题
酒店服务实习自我鉴定
2013/09/22 职场文书
信息管理专业推荐信
2013/10/29 职场文书
省三好学生申请材料
2014/01/22 职场文书
青年志愿者事迹材料
2014/02/07 职场文书
学校光盘行动倡议书
2015/04/28 职场文书
2015-2016年小学教导工作总结
2015/07/21 职场文书
三好学生主要事迹材料
2015/11/03 职场文书
CSS3 实现NES游戏机的示例代码
2021/04/21 HTML / CSS
SpringCloud Alibaba 基本开发框架搭建过程
2021/06/13 Java/Android
Pycharm连接远程服务器并远程调试的全过程
2021/06/24 Python