python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python中将字典转换为XML以及相关的命名空间解析
Oct 15 Python
Python+django实现简单的文件上传
Aug 17 Python
python实现的二叉树定义与遍历算法实例
Jun 30 Python
python构建深度神经网络(续)
Mar 10 Python
Python实现替换文件中指定内容的方法
Mar 19 Python
django 单表操作实例详解
Jul 30 Python
导入tensorflow时报错:cannot import name 'abs'的解决
Oct 10 Python
pytorch nn.Conv2d()中的padding以及输出大小方式
Jan 10 Python
python3格式化字符串 f-string的高级用法(推荐)
Mar 04 Python
Python实现文件压缩和解压的示例代码
Aug 12 Python
python爬虫构建代理ip池抓取数据库的示例代码
Sep 22 Python
windows系统Tensorflow2.x简单安装记录(图文)
Jan 18 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
php根据身份证号码计算年龄的实例代码
2014/01/18 PHP
PHP也能干大事 随机函数
2015/04/14 PHP
Yii多表联合查询操作详解
2016/06/02 PHP
PHP实现可添加水印与生成缩略图的图片处理工具类
2018/01/16 PHP
在Laravel中使用MongoDB的方法示例
2019/11/11 PHP
js获取IP和PcName(IE)在vs中可用
2013/08/02 Javascript
jQuery中使用Ajax获取JSON格式数据示例代码
2013/11/26 Javascript
解析Javascript中难以理解的11个问题
2013/12/09 Javascript
移动节点的jquery代码
2014/01/13 Javascript
javascript中键盘事件用法实例分析
2015/01/30 Javascript
JavaScript学习笔记之取数组中最大值和最小值
2016/03/23 Javascript
手机移动端实现 jquery和HTML5 Canvas的幸运大奖盘特效
2016/12/06 Javascript
微信小程序开发之选项卡(窗口底部TabBar)页面切换
2017/04/12 Javascript
vue中将网页打印成pdf实例代码
2017/06/15 Javascript
解决bootstrap-select 动态加载数据不显示的问题
2018/08/10 Javascript
vue生命周期与钩子函数简单示例
2019/03/13 Javascript
微信小程序如何通过用户授权获取手机号(getPhoneNumber)
2020/01/21 Javascript
深入浅析vue全局环境变量和模式
2020/04/28 Javascript
JavaScript中reduce()的5个基本用法示例
2020/07/19 Javascript
[07:20]2014DOTA2西雅图国际邀请赛 选手讲解积分赛第二天
2014/07/11 DOTA
[43:48]Ti4正赛第一天 VG vs NEWBEE 2
2014/07/19 DOTA
python 实现图片上传接口开发 并生成可以访问的图片url
2019/12/18 Python
python获取网络图片方法及整理过程详解
2019/12/20 Python
解决tensorflow添加ptb库的问题
2020/02/10 Python
HTML如何让IMG自动适应DIV容器大小的实现方法
2020/02/25 HTML / CSS
Ted Baker英国官网:男士和女士服装及配件
2017/03/13 全球购物
Flesh Beauty官网:露华浓集团旗下彩妆品牌
2021/02/15 全球购物
Jar包的作用是什么
2014/03/30 面试题
Java面试题:说出如下代码的执行结果
2015/10/30 面试题
Set里的元素是不能重复的,那么用什么方法来区分重复与否呢? 是用==还是equals()? 它们有何区别?
2014/07/27 面试题
办公室主任职责范文
2013/11/08 职场文书
毕业生怎样写好自荐信
2013/11/11 职场文书
自荐书封面下载
2013/11/29 职场文书
社区重阳节活动总结
2015/03/24 职场文书
工伤调解协议书
2016/03/21 职场文书
选择比努力更重要?这是长期以来对“努力”的最大误解
2019/07/12 职场文书