Python实现爬取百度贴吧帖子所有楼层图片的爬虫示例


Posted in Python onApril 26, 2018

本文实例讲述了Python实现爬取百度贴吧帖子所有楼层图片的爬虫。分享给大家供大家参考,具体如下:

下载百度贴吧帖子图片,好好看

Python实现爬取百度贴吧帖子所有楼层图片的爬虫示例

python2.7版本:

#coding=utf-8
import re
import requests
import urllib
from bs4 import BeautifulSoup
import time
time1=time.time()
def getHtml(url):
  page = requests.get(url)
  html =page.text
  return html
def getImg(html):
  soup = BeautifulSoup(html, 'html.parser')
  img_info = soup.find_all('img', class_='BDE_Image')
  global index
  for index,img in enumerate(img_info,index+1):
    print ("正在下载第{}张图片".format(index))
    urllib.urlretrieve(img.get("src"),'C:/pic4/%s.jpg' % index)
def getMaxPage(url):
  html = getHtml(url)
  reg = re.compile(r'max-page="(\d+)"')
  page = re.findall(reg,html)
  page = int(page[0])
  return page
if __name__=='__main__':
  url  = "https://tieba.baidu.com/p/5113603072"
  page = getMaxPage(url)
  index = 0
  for i in range(1,page):
    url = "%s%s" % ("https://tieba.baidu.com/p/5113603072?pn=",str(i))
    html = getHtml(url)
    getImg(html)
  print ("OK!All DownLoad!")
  time2=time.time()
  print u'总共耗时:' + str(time2 - time1) + 's'
Python 相关文章推荐
Python中解析JSON并同时进行自定义编码处理实例
Feb 08 Python
在Python的Tornado框架中实现简单的在线代理的教程
May 02 Python
详解Python中的各种函数的使用
May 24 Python
Python正则抓取网易新闻的方法示例
Apr 21 Python
python读取视频流提取视频帧的两种方法
Oct 22 Python
详解Python中的type和object
Aug 15 Python
Django压缩静态文件的实现方法详析
Aug 26 Python
Python Sphinx使用实例及问题解决
Jan 17 Python
Python龙贝格法求积分实例
Feb 29 Python
python画图常规设置方式
Mar 05 Python
Django操作session 的方法
Mar 09 Python
Python自动巡检H3C交换机实现过程解析
Aug 14 Python
Python实现的计算器功能示例
Apr 26 #Python
python email smtplib模块发送邮件代码实例
Apr 26 #Python
Python利用正则表达式实现计算器算法思路解析
Apr 25 #Python
Python实现随机生成手机号及正则验证手机号的方法
Apr 25 #Python
Python实现按中文排序的方法示例
Apr 25 #Python
Python实现的基于优先等级分配糖果问题算法示例
Apr 25 #Python
python自动登录12306并自动点击验证码完成登录的实现源代码
Apr 25 #Python
You might like
php中用文本文件做数据库的实现方法
2008/03/27 PHP
php网页标题中文乱码的有效解决方法
2014/03/05 PHP
PHP实现基于栈的后缀表达式求值功能
2017/11/10 PHP
Laravel 实现密码重置功能
2018/02/23 PHP
Jquery 获取表单text,areatext,radio,checkbox,select值的代码
2009/11/12 Javascript
人人网javascript面试题 可以提前实现下
2012/01/05 Javascript
JAVASCRIPT模式窗口中下载文件无法接收iframe的流
2013/10/11 Javascript
Javascript设计模式之观察者模式的多个实现版本实例
2015/03/03 Javascript
详解JavaScript中的blink()方法的使用
2015/06/08 Javascript
详解JavaScript中数组的相关知识
2015/07/29 Javascript
JavaScript中对象的不同创建方法
2016/08/12 Javascript
ES6概念 Symbol toString()方法
2016/12/25 Javascript
详解Javascript 中的 class、构造函数、工厂函数
2017/12/20 Javascript
angular2/ionic2 实现搜索结果中的搜索关键字高亮的示例
2018/08/17 Javascript
微信小程序实现带缩略图轮播效果
2018/11/04 Javascript
Swiper.js实现移动端元素左右滑动
2019/09/08 Javascript
Jquery滑动门/tab切换实现方法完整示例
2020/06/05 jQuery
Vue 同步异步存值取值实现案例
2020/08/05 Javascript
JS+css3实现幻灯片轮播图
2020/08/14 Javascript
Python常用模块介绍
2014/11/21 Python
使用IPython来操作Docker容器的入门指引
2015/04/08 Python
python使用wmi模块获取windows下硬盘信息的方法
2015/05/15 Python
Python使用dis模块把Python反编译为字节码的用法详解
2016/06/14 Python
python 数据清洗之数据合并、转换、过滤、排序
2017/02/12 Python
python中shell执行知识点
2020/05/06 Python
用python按照图像灰度值统计并筛选图片的操作(PIL,shutil,os)
2020/06/04 Python
Keras框架中的epoch、bacth、batch size、iteration使用介绍
2020/06/10 Python
中国跨境电商:Tomtop
2017/03/16 全球购物
俄罗斯鲜花递送:AMF
2020/04/24 全球购物
信号量和自旋锁的区别?如何选择使用?
2015/09/08 面试题
写给学生的新学期寄语
2014/01/18 职场文书
文秘应届生求职信
2014/07/05 职场文书
励志演讲稿800字
2014/08/21 职场文书
查摆问题整改措施范文
2014/10/11 职场文书
2016大学先进团支部事迹材料
2016/03/01 职场文书
CSS布局之浮动(float)和定位(position)属性的区别
2021/09/25 HTML / CSS