python抓取豆瓣图片并自动保存示例学习


Posted in Python onJanuary 10, 2014

环境Python 2.7.6,BS4,在powershell或命令行均可运行。请确保安装了BS模块

# -*- coding:utf8 -*-
# 2013.12.36 19:41 wnlo-c209
# 抓取dbmei.com的图片。
from bs4 import BeautifulSoup
import os, sys, urllib2
# 创建文件夹,昨天刚学会
path = os.getcwd()          # 获取此脚本所在目录
new_path = os.path.join(path,u'豆瓣妹子')
if not os.path.isdir(new_path):
 os.mkdir(new_path)

def page_loop(page=0):
 url = 'http://www.dbmeizi.com/?p=%s' % page
 content = urllib2.urlopen(url)
 soup = BeautifulSoup(content)
 my_girl = soup.find_all('img')   
    # 加入结束检测,写的不好....
 if my_girl ==[]:
  print u'已经全部抓取完毕'
  sys.exit(0)
 print u'开始抓取'
 for girl in my_girl:
  link = girl.get('src')
  flink = 'http://www.dbmeizi.com/' + link
  print flink
  content2 = urllib2.urlopen(flink).read()
  with open(u'豆瓣妹子'+'/'+flink[-11:],'wb') as code:   #在OSC上现学的
   code.write(content2)
 page = int(page) + 1
 print u'开始抓取下一页'
 print 'the %s page' % page
 page_loop(page)
page_loop().
Python 相关文章推荐
Python 自动补全(vim)
Nov 30 Python
用python找出那些被“标记”的照片
Apr 20 Python
Python入门_浅谈for循环、while循环
May 16 Python
python模仿网页版微信发送消息功能
Feb 24 Python
python+opencv识别图片中的圆形
Mar 25 Python
详解python3中tkinter知识点
Jun 21 Python
python去除删除数据中\u0000\u0001等unicode字符串的代码
Mar 06 Python
pytorch判断是否cuda 判断变量类型方式
Jun 23 Python
从python读取sql的实例方法
Jul 21 Python
基于Python爬取京东双十一商品价格曲线
Oct 23 Python
Scrapy+Selenium自动获取cookie爬取网易云音乐个人喜爱歌单
Feb 01 Python
pytorch中的 .view()函数的用法介绍
Mar 17 Python
python文件比较示例分享
Jan 10 #Python
python发送伪造的arp请求
Jan 09 #Python
python抓取京东价格分析京东商品价格走势
Jan 09 #Python
python实现电子词典
Apr 23 #Python
python中cPickle用法例子分享
Jan 03 #Python
使用python获取CPU和内存信息的思路与实现(linux系统)
Jan 03 #Python
Python群发邮件实例代码
Jan 03 #Python
You might like
PHP中防止SQL注入攻击和XSS攻击的两个简单方法
2010/04/15 PHP
PHP中使用BigMap实例
2015/03/30 PHP
Laravel使用scout集成elasticsearch做全文搜索的实现方法
2018/11/30 PHP
写了一个layout,拖动条连贯,内容区可为iframe
2007/08/19 Javascript
JavaScript类和继承 constructor属性
2010/03/04 Javascript
js onclick事件传参讲解
2013/11/06 Javascript
用jQuery模拟select下拉框的简单示例代码
2014/01/26 Javascript
ExtJs纵坐标值重复问题的解决方法
2014/02/27 Javascript
JS获取单击按钮单元格所在行的信息
2014/06/17 Javascript
JS实现的倒计时效果实例(2则实例)
2015/12/23 Javascript
前端实现文件的断点续传(前端文件提交+后端PHP文件接收)
2016/11/04 Javascript
原生JS实现小小的音乐播放器
2017/10/16 Javascript
基于vue2实现上拉加载功能
2017/11/28 Javascript
JS 实现缓存算法的示例(FIFO/LRU)
2018/03/20 Javascript
js实现拖拽与碰撞检测
2020/09/18 Javascript
vuex刷新后数据丢失的解决方法
2020/10/18 Javascript
原生JS实现京东查看商品点击放大
2020/12/21 Javascript
python实现目录树生成示例
2014/03/28 Python
探索Python3.4中新引入的asyncio模块
2015/04/08 Python
利用Python实现网络测试的脚本分享
2017/05/26 Python
Python实现购物车购物小程序
2018/04/18 Python
python3.6使用pymysql连接Mysql数据库
2018/05/25 Python
python利用小波分析进行特征提取的实例
2019/01/09 Python
Python导入数值型Excel数据并生成矩阵操作
2020/06/09 Python
python脚本和网页有何区别
2020/07/02 Python
html5中canvas图表实现柱状图的示例
2017/11/13 HTML / CSS
巴西美妆购物网站:Kutiz Beauté
2019/03/13 全球购物
仓库管理专业个人自我评价范文
2013/11/11 职场文书
大学军训感言
2014/01/10 职场文书
高中军训感言800字
2014/03/05 职场文书
公司董事长岗位职责
2014/06/08 职场文书
运动会闭幕词
2015/01/28 职场文书
少年犯观后感
2015/06/11 职场文书
Django项目如何获得SSL证书与配置HTTPS
2021/04/30 Python
JDBC连接的六步实例代码(与mysql连接)
2021/05/12 MySQL
关于Redis的主从复制及哨兵问题
2022/06/16 Redis