编写Python脚本批量下载DesktopNexus壁纸的教程


Posted in Python onMay 06, 2015

DesktopNexus 是我最喜爱的一个壁纸下载网站,上面有许多高质量的壁纸,几乎每天必上, 每月也必会坚持分享我这个月来收集的壁纸

但是 DesktopNexus 壁纸的下载很麻烦,而且因为壁纸会通过浏览器检测你当前分辨率来展示 合适你当前分辨率的壁纸,再加上是国外的网站,速度上很不乐观。

于是我写了个脚本,检测输入的页面中壁纸页面的链接,然后批量下载到指定文件夹中。

脚本使用 python 写的,所以需要机器上安装有 python 。
用法:

$ python desktop_nexus.py -p http://www.desktopnexus.com/tag/cat/ -s 1280x800 -o wallpapers

    -p 包含 DesktopNexus 壁纸链接的页面,比如我的壁纸分享
    -s 壁纸尺寸,可选,缺省为 1440x900
    -o 壁纸输出的文件夹,可选,缺省为当前目录下的 wallpapers, 如果不存在会自动创建

代码:

#-*- coding: utf-8 -*-
from argparse import ArgumentParser

import os, re, sys
import urllib2, cookielib, urlparse

RE_WALLPAPER = r'http\:\/\/[^\/\.]+\.desktopnexus\.com\/wallpaper\/\d+\/'
CHUNK_SIZE = 1024 * 3

class DesktopNexus:
  def __init__(self, page=None, size=None, output_dir=None):
    self.page = page
    self.size = size
    self.output_dir = output_dir

  def start(self):
    print 'Making output directory:', self.output_dir
    if not os.path.exists(self.output_dir):
      os.makedirs(self.output_dir)

    # Setup cookie
    cookie = cookielib.CookieJar()
    processer = urllib2.HTTPCookieProcessor(cookie)
    opener = urllib2.build_opener(processer)
    urllib2.install_opener(opener)

    self._read_page()

  def _get_pic_info(self, url):
    pic_id = url.split('/')[-2]
    html = urllib2.urlopen(url).read()
    pattern = r'<a href=\"\/get\/%s\/\?t=(?P<token>.*?)\"' % pic_id
    match = re.search(pattern, html, flags=re.I|re.M|re.S)
    if match:
      return {'id': pic_id,
          'token': match.group('token'),
          'size': self.size}
    else:
      raise Exception('Cound not find wallpaper')

  def _get_pic_file(self, pic_info):
    redirect_url = 'http://www.desktopnexus.com/dl/inline/%(id)s/%(size)s/%(token)s' % pic_info

    request = urllib2.urlopen(redirect_url)
    return request.geturl()

  def _download_pic(self, url):
    pic_info = self._get_pic_info(url)
    pic_file = self._get_pic_file(pic_info)
    filename = os.path.split(urlparse.urlparse(pic_file).path)[-1]
    filename = os.path.join(self.output_dir, filename)
    with open(filename, 'wb') as output:
      resp = urllib2.urlopen(pic_file)
      total_size = int(resp.info().get('Content-Length'))
      saved_size = 0.0
      while saved_size != total_size:
        chunk = resp.read(CHUNK_SIZE)
        saved_size += len(chunk)
        output.write(chunk)
        self._print_progress('Saving file: %s' % filename, \
            saved_size / total_size * 100)

  def _print_progress(self, msg, progress):
    sys.stdout.write('%-71s%3d%%\r' \
        % (len(msg) <= 70 and msg or msg[:67] + '...', progress))
    sys.stdout.flush()
    if progress >= 100:
      sys.stdout.write('\n')

  def _read_page(self):
    try:
      print 'Fetching content:', self.page
      html = urllib2.urlopen(self.page).read()
      links = set(re.findall(RE_WALLPAPER, html, re.M|re.I))
      count = len(links)

      print 'Downloading wallpapers:'
      for i, link in enumerate(links):
        print '[%d/%d]: %s' % (i + 1, count, link)
        try:
          self._download_pic(link)
        except Exception as e:
          print 'Error downloading wallpaper.', e.message
    except Exception as e:
      print 'Error fetching content.', e

if __name__ == '__main__':
  # Setup argparser
  parser = ArgumentParser('python desktop_nexus.py')
  parser.add_argument('-p', '--page', dest='page', required=True, \
      help='specific a page that includes wallpaper list')
  parser.add_argument('-s', '--size', dest='size', default='1440x900', \
      help='specific the wallpaper size, default to 1440x900')
  parser.add_argument('-o', '--output', dest='output_dir', default='wallpapers', \
      help='specific the output directory, default to "wallpapers"')
  args = parser.parse_args()
  dn = DesktopNexus(**args.__dict__)
  dn.start()

Python 相关文章推荐
Python实现一个简单的MySQL类
Jan 07 Python
详解python脚本自动生成需要文件实例代码
Feb 04 Python
Python简单的制作图片验证码实例
May 31 Python
简单了解什么是神经网络
Dec 23 Python
Python闭包函数定义与用法分析
Jul 20 Python
详解django中url路由配置及渲染方式
Feb 25 Python
树莓派使用python-librtmp实现rtmp推流h264的方法
Jul 22 Python
Python环境Pillow( PIL )图像处理工具使用解析
Sep 12 Python
Python实现手机号自动判断男女性别(实例解析)
Dec 22 Python
Pytorch高阶OP操作where,gather原理
Apr 30 Python
详解用 python-docx 创建浮动图片
Jan 24 Python
教你使用Python pypinyin库实现汉字转拼音
May 27 Python
在Windows服务器下用Apache和mod_wsgi配置Python应用的教程
May 06 #Python
利用Python脚本在Nginx和uwsgi上部署MoinMoin的教程
May 05 #Python
Python实现的HTTP并发测试完整示例
Apr 23 #Python
安装dbus-python的简要教程
May 05 #Python
使用SAE部署Python运行环境的教程
May 05 #Python
在Python中使用PIL模块对图片进行高斯模糊处理的教程
May 05 #Python
在Python中使用mechanize模块模拟浏览器功能
May 05 #Python
You might like
PHP+MySQL投票系统的设计和实现分享
2012/09/23 PHP
写一段简单的PHP建立文件夹代码
2015/01/06 PHP
PHP的静态方法与普通方法用法实例分析
2019/09/26 PHP
laravel中的fillable和guarded属性详解
2019/10/23 PHP
JavaScript的面向对象方法以及差别
2008/03/31 Javascript
javascript+xml技术实现分页浏览
2008/07/27 Javascript
javascript 节点遍历函数
2010/03/28 Javascript
js 文件引入实现代码
2010/04/23 Javascript
jquery写个checkbox——类似邮箱全选功能
2013/03/19 Javascript
offsetHeight在OnLoad中获取为0的现象
2013/07/22 Javascript
使用Chrome调试JavaScript的断点设置和调试技巧
2014/12/16 Javascript
jQuery中:first选择器用法实例
2014/12/30 Javascript
JavaScript中document对象使用详解
2015/01/06 Javascript
JS中获取函数调用链所有参数的方法
2015/05/07 Javascript
JS 面向对象之继承---多种组合继承详解
2016/07/10 Javascript
HTML5 js实现拖拉上传文件功能
2020/11/20 Javascript
JavaScript递归算法生成树形菜单
2017/08/15 Javascript
在vue-cli中引入lodash.js并使用详解
2019/11/13 Javascript
[33:15]2018DOTA2亚洲邀请赛3月30日 小组赛B组 VP VS Mineski
2018/03/31 DOTA
Django框架中数据的连锁查询和限制返回数据的方法
2015/07/17 Python
Python+Wordpress制作小说站
2017/04/14 Python
Django Admin 实现外键过滤的方法
2017/09/29 Python
基于Python实现的微信好友数据分析
2018/02/26 Python
python人民币小写转大写辅助工具
2018/06/20 Python
TensorFlow利用saver保存和提取参数的实例
2018/07/26 Python
numpy基础教程之np.linalg
2019/02/12 Python
Python3 使用pillow库生成随机验证码
2019/08/26 Python
使用keras根据层名称来初始化网络
2020/05/21 Python
python上selenium的弹框操作实现
2020/07/13 Python
Larsson & Jennings官网:现代瑞士钟表匠
2018/03/20 全球购物
英国领先的维生素和营养补充剂直接供应商:Healthspan
2019/04/22 全球购物
给老师的道歉信
2014/01/11 职场文书
数控技术专业毕业自荐书范文
2014/02/05 职场文书
对孩子的寄语
2014/04/09 职场文书
党章学习心得体会2016
2016/01/14 职场文书
Python入门学习之类的相关知识总结
2021/05/25 Python