编写Python脚本批量下载DesktopNexus壁纸的教程


Posted in Python onMay 06, 2015

DesktopNexus 是我最喜爱的一个壁纸下载网站,上面有许多高质量的壁纸,几乎每天必上, 每月也必会坚持分享我这个月来收集的壁纸

但是 DesktopNexus 壁纸的下载很麻烦,而且因为壁纸会通过浏览器检测你当前分辨率来展示 合适你当前分辨率的壁纸,再加上是国外的网站,速度上很不乐观。

于是我写了个脚本,检测输入的页面中壁纸页面的链接,然后批量下载到指定文件夹中。

脚本使用 python 写的,所以需要机器上安装有 python 。
用法:

$ python desktop_nexus.py -p http://www.desktopnexus.com/tag/cat/ -s 1280x800 -o wallpapers

    -p 包含 DesktopNexus 壁纸链接的页面,比如我的壁纸分享
    -s 壁纸尺寸,可选,缺省为 1440x900
    -o 壁纸输出的文件夹,可选,缺省为当前目录下的 wallpapers, 如果不存在会自动创建

代码:

#-*- coding: utf-8 -*-
from argparse import ArgumentParser

import os, re, sys
import urllib2, cookielib, urlparse

RE_WALLPAPER = r'http\:\/\/[^\/\.]+\.desktopnexus\.com\/wallpaper\/\d+\/'
CHUNK_SIZE = 1024 * 3

class DesktopNexus:
  def __init__(self, page=None, size=None, output_dir=None):
    self.page = page
    self.size = size
    self.output_dir = output_dir

  def start(self):
    print 'Making output directory:', self.output_dir
    if not os.path.exists(self.output_dir):
      os.makedirs(self.output_dir)

    # Setup cookie
    cookie = cookielib.CookieJar()
    processer = urllib2.HTTPCookieProcessor(cookie)
    opener = urllib2.build_opener(processer)
    urllib2.install_opener(opener)

    self._read_page()

  def _get_pic_info(self, url):
    pic_id = url.split('/')[-2]
    html = urllib2.urlopen(url).read()
    pattern = r'<a href=\"\/get\/%s\/\?t=(?P<token>.*?)\"' % pic_id
    match = re.search(pattern, html, flags=re.I|re.M|re.S)
    if match:
      return {'id': pic_id,
          'token': match.group('token'),
          'size': self.size}
    else:
      raise Exception('Cound not find wallpaper')

  def _get_pic_file(self, pic_info):
    redirect_url = 'http://www.desktopnexus.com/dl/inline/%(id)s/%(size)s/%(token)s' % pic_info

    request = urllib2.urlopen(redirect_url)
    return request.geturl()

  def _download_pic(self, url):
    pic_info = self._get_pic_info(url)
    pic_file = self._get_pic_file(pic_info)
    filename = os.path.split(urlparse.urlparse(pic_file).path)[-1]
    filename = os.path.join(self.output_dir, filename)
    with open(filename, 'wb') as output:
      resp = urllib2.urlopen(pic_file)
      total_size = int(resp.info().get('Content-Length'))
      saved_size = 0.0
      while saved_size != total_size:
        chunk = resp.read(CHUNK_SIZE)
        saved_size += len(chunk)
        output.write(chunk)
        self._print_progress('Saving file: %s' % filename, \
            saved_size / total_size * 100)

  def _print_progress(self, msg, progress):
    sys.stdout.write('%-71s%3d%%\r' \
        % (len(msg) <= 70 and msg or msg[:67] + '...', progress))
    sys.stdout.flush()
    if progress >= 100:
      sys.stdout.write('\n')

  def _read_page(self):
    try:
      print 'Fetching content:', self.page
      html = urllib2.urlopen(self.page).read()
      links = set(re.findall(RE_WALLPAPER, html, re.M|re.I))
      count = len(links)

      print 'Downloading wallpapers:'
      for i, link in enumerate(links):
        print '[%d/%d]: %s' % (i + 1, count, link)
        try:
          self._download_pic(link)
        except Exception as e:
          print 'Error downloading wallpaper.', e.message
    except Exception as e:
      print 'Error fetching content.', e

if __name__ == '__main__':
  # Setup argparser
  parser = ArgumentParser('python desktop_nexus.py')
  parser.add_argument('-p', '--page', dest='page', required=True, \
      help='specific a page that includes wallpaper list')
  parser.add_argument('-s', '--size', dest='size', default='1440x900', \
      help='specific the wallpaper size, default to 1440x900')
  parser.add_argument('-o', '--output', dest='output_dir', default='wallpapers', \
      help='specific the output directory, default to "wallpapers"')
  args = parser.parse_args()
  dn = DesktopNexus(**args.__dict__)
  dn.start()

Python 相关文章推荐
跟老齐学Python之Python文档
Oct 10 Python
Python+tkinter使用80行代码实现一个计算器实例
Jan 16 Python
Python requests发送post请求的一些疑点
May 20 Python
Python列表对象实现原理详解
Jul 01 Python
python自定义函数实现最大值的输出方法
Jul 09 Python
python KNN算法实现鸢尾花数据集分类
Oct 24 Python
python实现将视频按帧读取到自定义目录
Dec 10 Python
使用keras实现Precise, Recall, F1-socre方式
Jun 15 Python
Python限制内存和CPU使用量的方法(Unix系统适用)
Aug 04 Python
详解Open Folder as PyCharm Project怎么添加的方法
Dec 29 Python
使用python绘制横竖条形图
Apr 21 Python
Python pyecharts案例超市4年数据可视化分析
Aug 14 Python
在Windows服务器下用Apache和mod_wsgi配置Python应用的教程
May 06 #Python
利用Python脚本在Nginx和uwsgi上部署MoinMoin的教程
May 05 #Python
Python实现的HTTP并发测试完整示例
Apr 23 #Python
安装dbus-python的简要教程
May 05 #Python
使用SAE部署Python运行环境的教程
May 05 #Python
在Python中使用PIL模块对图片进行高斯模糊处理的教程
May 05 #Python
在Python中使用mechanize模块模拟浏览器功能
May 05 #Python
You might like
PHP开发中的错误收集,不定期更新。
2011/02/03 PHP
php中call_user_func函数使用注意事项
2014/11/21 PHP
PHP rmdir()函数的用法总结
2019/07/02 PHP
javascript针对DOM的应用分析(四)
2012/04/15 Javascript
JavaScript调用后台的三种方法实例
2013/10/17 Javascript
js实现仿网易点击弹出提示同时背景变暗效果
2015/08/13 Javascript
JS+CSS实现鼠标经过弹出一个DIV框完整实例(带缓冲动画渐变效果)
2016/03/25 Javascript
JavaScript动态添加事件之事件委托
2016/07/12 Javascript
jstree创建无限分级树的方法【基于ajax动态创建子节点】
2016/10/25 Javascript
使用jQuery操作DOM的方法小结
2017/02/27 Javascript
Vue-cli项目获取本地json文件数据的实例
2018/03/07 Javascript
微信小程序车牌号码模拟键盘输入功能的实现代码
2018/11/11 Javascript
Vuejs监听vuex中值的变化的方法示例
2018/12/02 Javascript
详解Vue中CSS样式穿透问题
2019/09/12 Javascript
vue+Element-ui实现登录注册表单
2020/11/17 Javascript
python中的实例方法、静态方法、类方法、类变量和实例变量浅析
2014/04/26 Python
浅谈Python的异常处理
2016/06/19 Python
python正向最大匹配分词和逆向最大匹配分词的实例
2018/11/14 Python
python http基本验证方法
2018/12/26 Python
Python 中list ,set,dict的大规模查找效率对比详解
2019/10/11 Python
Python 脚本拉取 Docker 镜像问题
2019/11/10 Python
Django restframework 框架认证、权限、限流用法示例
2019/12/21 Python
python+Selenium自动化测试——输入,点击操作
2020/03/06 Python
关于matplotlib-legend 位置属性 loc 使用说明
2020/05/16 Python
AmazeUI 面板的实现示例
2020/08/17 HTML / CSS
html5 拖拽及用 js 实现拖拽功能的示例代码
2020/10/23 HTML / CSS
租租车:国际租车、美国租车、欧洲租车、特价预订国外租车(中文服务)
2018/03/28 全球购物
匈牙利超级网上商店和优惠:Alza.hu
2019/12/17 全球购物
求职简历中个人的自我评价
2013/12/25 职场文书
5.1手机促销活动
2014/01/17 职场文书
应届大学生自荐书
2014/06/17 职场文书
审计班子对照检查材料
2014/08/27 职场文书
云冈石窟导游词
2015/02/04 职场文书
2015年评职称工作总结范文
2015/04/20 职场文书
2015年感恩父亲节活动策划方案
2015/05/05 职场文书
入党培养人考察意见
2015/06/08 职场文书