python爬虫实例之获取动漫截图


Posted in Python onMay 31, 2020

引言

之前有些无聊(呆在家里实在玩的腻了),然后就去B站看了一些python爬虫视频,没有进行基础的理论学习,也就是直接开始实战,感觉跟背公式一样的进行爬虫,也算行吧,至少还能爬一些东西,hhh。我今天来分享一个我的爬虫代码。

正文

话不多说,直接上完整代码

ps:这个代码有些问题 每次我爬到fate的图片它就给我报错,我只好用个try来跳过了,如果有哪位大佬能帮我找出错误并给与纠正,我将不胜感激

import requests as r
import re
import os
import time
file_name = "动漫截图"
if not os.path.exists(file_name):
 os.mkdir(file_name)
    
for p in range(1,34):
  print("--------------------正在爬取第{}页内容------------------".format(p))
  url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
  headers = {"user-agent"
   : "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36"}
   
  resp = r.get(url, headers=headers) 
  html = resp.text

  images = re.findall('data-original="(.*?)" ', html)
  names =re.findall('title="(.*?)"', html)
  #print(images)
  #print(names)
  dic = dict(zip(images, names))
  for image in images:
    time.sleep(1)
    print(image, dic[image])
    name = dic[image]
    #name = image.split('/')[-1]
    i = r.get(image, headers=headers).content
    try:
      with open(file_name + '/' + name + '.jpg' , 'wb') as f:
       f.write(i)
    except FileNotFoundError:
     continue

先导入要使用的库

import requests as r
import re
import os
import time

然后去分析要去爬的网址: https://www.acgimage.com/shot/recommend

下图是网址的内容:

python爬虫实例之获取动漫截图

好了 url已经确定

下面去寻找headers

python爬虫实例之获取动漫截图

找到user-agent 将其内容复制到headers中

第一步就完成了

下面是代码展示

url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
headers = {"user-agent"
   : "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36"
   }

然后检索要爬的图片内容

python爬虫实例之获取动漫截图

从上图就可以找到图片的位置:data-origina=后面的内容
以及图片的名字:title=后面的内容

然后用正则表达式re来检索就行了

images = re.findall('data-original="(.*?)" ', html)
names =re.findall('title="(.*?)"', html)

最后将其保存就好了

i = r.get(image, headers=headers).content
with open(file_name + '/' + name + '.jpg' , 'wb') as f:
     f.write(i)

还有就是一些细节了

比如换页

第一页网址:

https://www.acgimage.com/shot/recommend

第二页网址:https://www.acgimage.com/shot/recommend?page=2

然后将page后面的数字改动就可以跳到相应的页面

换页的问题也就解决了

or p in range(1,34):
    url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)

以及将爬到的图片放到自己建立的文件zh

使用了os库

file_name = "动漫截图"
 if not os.path.exists(file_name):
   os.mkdir(file_name)

以及为了不影响爬取的网站 使用了sleep函数

虽然爬取的速度慢了一些

但是这是应遵守的道德

time.sleep(1)

以上 这就是我的爬虫过程

还是希望大佬能解决我的错误之处

万分感谢

总结

到此这篇关于python爬虫实例之获取动漫截图的文章就介绍到这了,更多相关python爬虫获取动漫截图内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
为python设置socket代理的方法
Jan 14 Python
Python编程之多态用法实例详解
May 19 Python
Python网络爬虫出现乱码问题的解决方法
Jan 05 Python
Python字符串和字典相关操作的实例详解
Sep 23 Python
python图书管理系统
Apr 05 Python
python如何把嵌套列表转变成普通列表
Mar 20 Python
对python:print打印时加u的含义详解
Dec 15 Python
对python3 中方法各种参数和返回值详解
Dec 15 Python
Python基于opencv调用摄像头获取个人图片的实现方法
Feb 21 Python
Django实现单用户登录的方法示例
Mar 28 Python
python mysql断开重连的实现方法
Jul 26 Python
使用Python实现牛顿法求极值
Feb 10 Python
如何利用Python识别图片中的文字
May 31 #Python
Python模拟登入的N种方式(建议收藏)
May 31 #Python
Python多线程正确用法实例解析
May 30 #Python
PyQt5实现简单的计算器
May 30 #Python
PyQt5实现登录页面
May 30 #Python
Python网页解析器使用实例详解
May 30 #Python
PyQt5实现画布小程序
May 30 #Python
You might like
php实现网站插件机制的方法
2009/11/10 PHP
javascript DOM编程实例(智播客学习)
2009/11/23 Javascript
javascript中有趣的反柯里化深入分析
2012/12/05 Javascript
利用JS实现浏览器的title闪烁
2013/07/08 Javascript
JS下拉缓冲菜单示例代码
2013/08/30 Javascript
JS小功能(列表页面隔行变色)简单实现
2013/11/28 Javascript
js实现防止被iframe的方法
2015/07/03 Javascript
微信小程序 选择器(时间,日期,地区)实例详解
2016/11/16 Javascript
浅谈Angular4实现热加载开发旅程
2017/09/08 Javascript
使用veloticy-ui生成文字动画效果
2018/02/08 Javascript
JavaScript查看代码运行效率console.time()与console.timeEnd()用法
2019/01/18 Javascript
js实现百度淘宝搜索功能
2020/02/17 Javascript
layui实现显示数据表格、搜索和修改功能示例
2020/06/03 Javascript
解决vue单页面应用进入页面加载所有 js 的问题
2020/08/12 Javascript
如何使用 vue-cli 创建模板项目
2020/11/19 Vue.js
python的常见命令注入威胁
2013/02/18 Python
Python科学画图代码分享
2017/11/29 Python
python实现自动获取IP并发送到邮箱
2018/12/26 Python
python如何从文件读取数据及解析
2019/09/19 Python
解决python gdal投影坐标系转换的问题
2020/01/17 Python
从0到1使用python开发一个半自动答题小程序的实现
2020/05/12 Python
联想马亚西亚官方网站:Lenovo Malaysia
2018/09/19 全球购物
物业管理应届生求职信
2013/10/28 职场文书
工商企业管理实习自我鉴定
2013/12/04 职场文书
中英文自我评价语句
2013/12/20 职场文书
数控专业毕业生自荐信范文
2014/03/04 职场文书
乡镇挂职心得体会
2014/09/04 职场文书
个人自我剖析材料
2014/09/30 职场文书
乡镇群众路线教育实践活动整改措施
2014/10/04 职场文书
家庭困难证明
2014/10/12 职场文书
项目验收申请报告
2015/05/15 职场文书
签约仪式致辞
2015/07/30 职场文书
MySQL令人咋舌的隐式转换
2021/04/05 MySQL
vue3使用vuedraggable实现拖拽功能
2022/04/06 Vue.js
Python采集壁纸并实现炫轮播
2022/04/30 Python
mysql字段为NULL索引是否会失效实例详解
2022/05/30 MySQL