编写Python脚本批量下载DesktopNexus壁纸的教程


Posted in Python onMay 06, 2015

DesktopNexus 是我最喜爱的一个壁纸下载网站,上面有许多高质量的壁纸,几乎每天必上, 每月也必会坚持分享我这个月来收集的壁纸

但是 DesktopNexus 壁纸的下载很麻烦,而且因为壁纸会通过浏览器检测你当前分辨率来展示 合适你当前分辨率的壁纸,再加上是国外的网站,速度上很不乐观。

于是我写了个脚本,检测输入的页面中壁纸页面的链接,然后批量下载到指定文件夹中。

脚本使用 python 写的,所以需要机器上安装有 python 。
用法:

$ python desktop_nexus.py -p http://www.desktopnexus.com/tag/cat/ -s 1280x800 -o wallpapers

    -p 包含 DesktopNexus 壁纸链接的页面,比如我的壁纸分享
    -s 壁纸尺寸,可选,缺省为 1440x900
    -o 壁纸输出的文件夹,可选,缺省为当前目录下的 wallpapers, 如果不存在会自动创建

代码:

#-*- coding: utf-8 -*-
from argparse import ArgumentParser

import os, re, sys
import urllib2, cookielib, urlparse

RE_WALLPAPER = r'http\:\/\/[^\/\.]+\.desktopnexus\.com\/wallpaper\/\d+\/'
CHUNK_SIZE = 1024 * 3

class DesktopNexus:
  def __init__(self, page=None, size=None, output_dir=None):
    self.page = page
    self.size = size
    self.output_dir = output_dir

  def start(self):
    print 'Making output directory:', self.output_dir
    if not os.path.exists(self.output_dir):
      os.makedirs(self.output_dir)

    # Setup cookie
    cookie = cookielib.CookieJar()
    processer = urllib2.HTTPCookieProcessor(cookie)
    opener = urllib2.build_opener(processer)
    urllib2.install_opener(opener)

    self._read_page()

  def _get_pic_info(self, url):
    pic_id = url.split('/')[-2]
    html = urllib2.urlopen(url).read()
    pattern = r'<a href=\"\/get\/%s\/\?t=(?P<token>.*?)\"' % pic_id
    match = re.search(pattern, html, flags=re.I|re.M|re.S)
    if match:
      return {'id': pic_id,
          'token': match.group('token'),
          'size': self.size}
    else:
      raise Exception('Cound not find wallpaper')

  def _get_pic_file(self, pic_info):
    redirect_url = 'http://www.desktopnexus.com/dl/inline/%(id)s/%(size)s/%(token)s' % pic_info

    request = urllib2.urlopen(redirect_url)
    return request.geturl()

  def _download_pic(self, url):
    pic_info = self._get_pic_info(url)
    pic_file = self._get_pic_file(pic_info)
    filename = os.path.split(urlparse.urlparse(pic_file).path)[-1]
    filename = os.path.join(self.output_dir, filename)
    with open(filename, 'wb') as output:
      resp = urllib2.urlopen(pic_file)
      total_size = int(resp.info().get('Content-Length'))
      saved_size = 0.0
      while saved_size != total_size:
        chunk = resp.read(CHUNK_SIZE)
        saved_size += len(chunk)
        output.write(chunk)
        self._print_progress('Saving file: %s' % filename, \
            saved_size / total_size * 100)

  def _print_progress(self, msg, progress):
    sys.stdout.write('%-71s%3d%%\r' \
        % (len(msg) <= 70 and msg or msg[:67] + '...', progress))
    sys.stdout.flush()
    if progress >= 100:
      sys.stdout.write('\n')

  def _read_page(self):
    try:
      print 'Fetching content:', self.page
      html = urllib2.urlopen(self.page).read()
      links = set(re.findall(RE_WALLPAPER, html, re.M|re.I))
      count = len(links)

      print 'Downloading wallpapers:'
      for i, link in enumerate(links):
        print '[%d/%d]: %s' % (i + 1, count, link)
        try:
          self._download_pic(link)
        except Exception as e:
          print 'Error downloading wallpaper.', e.message
    except Exception as e:
      print 'Error fetching content.', e

if __name__ == '__main__':
  # Setup argparser
  parser = ArgumentParser('python desktop_nexus.py')
  parser.add_argument('-p', '--page', dest='page', required=True, \
      help='specific a page that includes wallpaper list')
  parser.add_argument('-s', '--size', dest='size', default='1440x900', \
      help='specific the wallpaper size, default to 1440x900')
  parser.add_argument('-o', '--output', dest='output_dir', default='wallpapers', \
      help='specific the output directory, default to "wallpapers"')
  args = parser.parse_args()
  dn = DesktopNexus(**args.__dict__)
  dn.start()

Python 相关文章推荐
通过mod_python配置运行在Apache上的Django框架
Jul 22 Python
Python基于pygame实现的弹力球效果(附源码)
Nov 11 Python
Python冒泡排序注意要点实例详解
Sep 09 Python
python实现电脑自动关机
Jun 20 Python
python实现指定文件夹下的指定文件移动到指定位置
Sep 17 Python
利用Python如何实现一个小说网站雏形
Nov 23 Python
python3+selenium实现126邮箱登陆并发送邮件功能
Jan 23 Python
python实现倒计时小工具
Jul 29 Python
python pygame实现球球大作战
Nov 25 Python
numpy实现神经网络反向传播算法的步骤
Dec 24 Python
Python自定义聚合函数merge与transform区别详解
May 26 Python
python 实现rolling和apply函数的向下取值操作
Jun 08 Python
在Windows服务器下用Apache和mod_wsgi配置Python应用的教程
May 06 #Python
利用Python脚本在Nginx和uwsgi上部署MoinMoin的教程
May 05 #Python
Python实现的HTTP并发测试完整示例
Apr 23 #Python
安装dbus-python的简要教程
May 05 #Python
使用SAE部署Python运行环境的教程
May 05 #Python
在Python中使用PIL模块对图片进行高斯模糊处理的教程
May 05 #Python
在Python中使用mechanize模块模拟浏览器功能
May 05 #Python
You might like
《魔兽争霸3:重制版》翻车了?你想要的我们都没有
2019/11/07 魔兽争霸
php数组函数序列之ksort()对数组的元素键名进行升序排序,保持索引关系
2011/11/02 PHP
php生成静态页面的简单示例
2014/04/17 PHP
php自定义urlencode,urldecode函数实例
2015/03/24 PHP
php简单判断两个字符串是否相等的方法
2015/07/13 PHP
ThinkPHP 5.1 跨域配置方法
2019/10/11 PHP
EasySlider 基于jQuery功能强大简单易用的滑动门插件
2010/06/11 Javascript
JavaScript之编码规范 推荐
2012/05/23 Javascript
在JavaScript中处理字符串之link()方法的使用
2015/06/08 Javascript
JS图片等比例缩放方法完整示例
2016/08/03 Javascript
JavaScript 获取元素在父节点中的下标(推荐)
2017/06/28 Javascript
JavaScript实现打印星型金字塔功能实例分析
2017/09/27 Javascript
js+html获取系统当前时间
2017/11/10 Javascript
webpack@v4升级踩坑(小结)
2018/10/08 Javascript
Angular6新特性之Angular Material
2018/12/28 Javascript
JavaScript数据结构与算法之检索算法实例分析【顺序查找、最大最小值、自组织查询】
2019/02/22 Javascript
使用Vue开发自己的Chrome扩展程序过程详解
2019/06/21 Javascript
[42:32]VP vs RNG 2019国际邀请赛淘汰赛 败者组 BO3 第一场 8.21.mp4
2020/07/19 DOTA
深入学习Python中的上下文管理器与else块
2017/08/27 Python
程序员写Python时的5个坏习惯,你有几条?
2018/11/26 Python
Python实现栈的方法详解【基于数组和单链表两种方法】
2020/02/22 Python
vue学习笔记之动态组件和v-once指令简单示例
2020/02/29 Python
python对接ihuyi实现短信验证码发送
2020/05/10 Python
sklearn的predict_proba使用说明
2020/06/28 Python
详解WebSocket跨域问题解决
2018/08/06 HTML / CSS
爱游人:Travelliker
2017/09/05 全球购物
出国留学介绍信
2014/01/13 职场文书
20年同学聚会感言
2014/02/03 职场文书
土地转让协议书
2014/04/15 职场文书
小学安全工作汇报材料
2014/08/19 职场文书
医院营销工作计划
2015/01/16 职场文书
项目建议书
2015/02/04 职场文书
大学毕业生自我评价
2015/03/02 职场文书
Golang实现AES对称加密的过程详解
2021/05/20 Golang
JavaScript 定时器详情
2021/11/11 Javascript
Python中with上下文管理协议的作用及用法
2022/03/18 Python