基于python爬取梨视频实现过程解析


Posted in Python onNovember 09, 2020

目标网址:梨视频

然后我们找到科技这一页:https://www.pearvideo.com/category_8。其实你要哪一页都行,你喜欢就行。嘿嘿…

这是动态网站,所以咱们直奔network 然后去到XHR:

基于python爬取梨视频实现过程解析

找规律,这个应该不难,我就直接贴网址上来咯,想要锻炼的可以找找看哈:

https://www.pearvideo.com/category_loading.jsp?reqType=5&categoryId=8&start=0

这个就是我们要找的目标网址啦,后面的0就代表页数,让打开这个网页发现是静态网页,这最好搞啦,直接上:

基于python爬取梨视频实现过程解析

代码如下:

import requests
import parsel,re
import os
target = "https://www.pearvideo.com/videoStatus.jsp?contId="

url = "https://www.pearvideo.com/category_loading.jsp?reqType=5&categoryId=9&start=0"
res = requests.get(url)
res.encoding="utf-8"
html = parsel.Selector(res.text)
lists = html.xpath('/html/body/li/div/a/@href').getall()
for each in lists:

  print("https://www.pearvideo.com/"+each)

output;
https://www.pearvideo.com/video_1703486
https://www.pearvideo.com/video_1703189
https://www.pearvideo.com/video_1703161
https://www.pearvideo.com/video_1702880
https://www.pearvideo.com/video_1702773
...

顺利拿到,然后进入播放页面,却发现找不到MP4视频,怎么办?经过我一番努力(扯掉了几十根头发后)发现,它在另外一个网址里面

基于python爬取梨视频实现过程解析

咋办?当然要想办法把这个网址搞到手啦,仔细分析下,发现这个网址非常陌生呀,唯一稍微熟悉点的就是那串数字了,前面我们拿到播放页的网址后面那串数字和这个对比,完全是一模一样的,这样的话那就好搞了,咱们直接用拼接的方式把它接上去就可以了,看代码:

for each in lists:
  url_num = each.replace('video_',"")
  urls = target+url_num
  print(urls)
``

```python
output:
https://www.pearvideo.com/videoStatus.jsp?contId=1703486
https://www.pearvideo.com/videoStatus.jsp?contId=1703189
https://www.pearvideo.com/videoStatus.jsp?contId=1703161
https://www.pearvideo.com/videoStatus.jsp?contId=1702880
https://www.pearvideo.com/videoStatus.jsp?contId=1702773
https://www.pearvideo.com/videoStatus.jsp?contId=1702633
...

出来了,好像稍微有点不一样,后面那啥&mrd=***************** 没有,怎么办?没有就不要呗,看过我发的百度图片那篇的朋友都懂,网址里面有些东西是不需要的,纯粹是搞咱们这些玩爬虫的,恶心咱们。不过没办法,毕竟是咱们要去爬人家的数据的。

网址问题解决了,但是点进去一看,发现这东东:

基于python爬取梨视频实现过程解析

恩,很明显,是遇到反爬机制了,这个好搞,要什么给什么就行,代码如下:

headers = {
  'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.111 Safari/537.36',
  'Referer': 'https://www.pearvideo.com/video_'+ str(url_num)
  }
  html = requests.get(urls,headers=headers).text
  print(html)

基于python爬取梨视频实现过程解析

搞定!!

最后我们看一下MP4能不能播放:

基于python爬取梨视频实现过程解析

西八!404!!恩,这里就稍微有点麻烦了,还得找数据,把里面的时间戳改成 ‘cont-数字‘,感觉写了好多,手都有点累了,我就直接上代码了:

import requests
import parsel,re
import os


 
target = "https://www.pearvideo.com/videoStatus.jsp?contId="

url = "https://www.pearvideo.com/category_loading.jsp?reqType=5&categoryId=9&start=0"
res = requests.get(url)
res.encoding="utf-8"
html = parsel.Selector(res.text)
lists = html.xpath('/html/body/li/div/a/@href').getall()
# print(lists[2:])
# 提取视频后面的数字,数字是最重要的,需要传给 Referer 和 urls
for each in lists:
  url_num = each.replace('video_',"")
  urls = target+url_num
  # print(urls)
  headers = {
  'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.111 Safari/537.36',
  'Referer': 'https://www.pearvideo.com/video_'+ str(url_num)
  }
  html = requests.get(urls,headers=headers).text
  
  cont = 'cont-' + str(url_num)

  # 提取 mp4 视频
  srcUrl = re.findall(f'"srcUrl":"(.*?)"',html)[0]
  # 替换视频里面的时间戳,改为可以真正播放的数据
  new_url = srcUrl.replace(srcUrl.split("-")[0].split("/")[-1],cont)
  print(new_url)
  

  # 使用视频后缀当视频名称
  filename = srcUrl.split("/")[-1]

  # 保存到本地
  with open("./images/"+filename,"wb") as f:
    f.write(requests.get(new_url).content)

基于python爬取梨视频实现过程解析

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python完全新手教程
Feb 08 Python
Python六大开源框架对比
Oct 19 Python
Python利用openpyxl库遍历Sheet的实例
May 03 Python
python变量赋值方法(可变与不可变)
Jan 12 Python
Python Django实现layui风格+django分页功能的例子
Aug 29 Python
Python模拟登录之滑块验证码的破解(实例代码)
Nov 18 Python
python中设置超时跳过,超时退出的方式
Dec 13 Python
浅谈在JupyterNotebook下导入自己的模块的问题
Apr 16 Python
通过实例了解python__slots__使用方法
Sep 14 Python
opencv+pyQt5实现图片阈值编辑器/寻色块阈值利器
Nov 13 Python
python反扒机制的5种解决方法
Feb 06 Python
Python代码实现双链表
May 25 Python
Python eval函数介绍及用法
Nov 09 #Python
python tkinter的消息框模块(messagebox,simpledialog)
Nov 07 #Python
python 用struct模块解决黏包问题
Nov 07 #Python
python hmac模块验证客户端的合法性
Nov 07 #Python
python如何利用paramiko执行服务器命令
Nov 07 #Python
基于python模拟TCP3次握手连接及发送数据
Nov 06 #Python
如何使用Django Admin管理后台导入CSV
Nov 06 #Python
You might like
php通过分类列表产生分类树数组的方法
2015/04/20 PHP
php转换颜色为其反色的方法
2015/04/27 PHP
php同时使用session和cookie来保存用户登录信息的实现代码
2016/05/13 PHP
基于PHP+mysql实现新闻发布系统的开发
2020/08/06 PHP
javascript下过滤数组重复值的代码
2007/09/10 Javascript
JavaScript基本概念初级讲解论坛贴的学习记录
2009/02/22 Javascript
jquery select(列表)的操作(取值/赋值)
2009/08/06 Javascript
取消选中单选框radio的三种方式示例介绍
2013/12/23 Javascript
二叉树先序遍历的非递归算法具体实现
2014/01/09 Javascript
HTML,CSS,JavaScript速查表推荐
2014/12/02 Javascript
浅谈angularJS 作用域
2015/07/05 Javascript
jQuery超精致图片轮播幻灯片特效代码分享
2015/09/10 Javascript
详解JavaScript的内置对象
2016/12/07 Javascript
Vue自定义指令拖拽功能示例
2017/02/17 Javascript
webpack打包后直接访问页面图片路径错误的解决方法
2017/06/17 Javascript
在Vue中如何使用Cookie操作实例
2017/07/27 Javascript
vue移动端下拉刷新和上拉加载的实现代码
2018/09/08 Javascript
vue中接口域名配置为全局变量的实现方法
2018/09/20 Javascript
微信小程序分享海报生成的实现方法
2018/12/10 Javascript
在Vue环境下利用worker运行interval计时器的步骤
2019/08/01 Javascript
layui table去掉右侧滑动条的实现方法
2019/09/05 Javascript
jQuery使用jsonp实现百度搜索的示例代码
2020/07/08 jQuery
Python实现将sqlite数据库导出转成Excel(xls)表的方法
2017/07/17 Python
Python Matplotlib实现三维数据的散点图绘制
2019/03/19 Python
[机器视觉]使用python自动识别验证码详解
2019/05/16 Python
Python学习笔记之pandas索引列、过滤、分组、求和功能示例
2019/06/03 Python
欧舒丹加拿大官网:L’Occitane加拿大
2017/10/29 全球购物
澳大利亚游乐场设备品牌:Lifespan Kids
2019/05/24 全球购物
审计工作个人的自我评价
2013/12/25 职场文书
网管求职信
2014/03/03 职场文书
中式结婚主持词
2014/03/14 职场文书
意向协议书
2015/01/27 职场文书
观后感开头
2015/06/19 职场文书
小学2016年第十八届推普周活动总结
2016/04/05 职场文书
详解TS数字分隔符和更严格的类属性检查
2021/05/06 Javascript
Redis如何实现验证码发送 以及限制每日发送次数
2022/04/18 Redis