python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
浅谈Python数据类型之间的转换
Jun 08 Python
pandas 实现字典转换成DataFrame的方法
Jul 04 Python
Python操作mongodb数据库的方法详解
Dec 08 Python
Python3爬虫之urllib携带cookie爬取网页的方法
Dec 28 Python
Python设计模式之状态模式原理与用法详解
Jan 15 Python
python进程和线程用法知识点总结
May 28 Python
Python closure闭包解释及其注意点详解
Aug 28 Python
k-means 聚类算法与Python实现代码
Jun 01 Python
Python之多进程与多线程的使用
Feb 23 Python
Python绘制K线图之可视化神器pyecharts的使用
Mar 02 Python
关于PySnooper 永远不要使用print进行调试的问题
Mar 04 Python
Python+Matplotlib+LaTeX玩转数学公式
Feb 24 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
让你同时上传 1000 个文件 (二)
2006/10/09 PHP
php排序算法(冒泡排序,快速排序)
2012/10/09 PHP
详解WordPress中用于更新和获取用户选项数据的PHP函数
2016/03/08 PHP
jQuery实现用方向键控制层的上下左右移动
2013/01/13 Javascript
jquery实现带单选按钮的表格行选中时高亮显示
2013/08/01 Javascript
JavaScript代码简单实现求杨辉三角给定行的最大值
2013/10/29 Javascript
jquery序列化表单去除指定元素示例代码
2014/04/10 Javascript
教你如何使用PHP输出中文JSON字符串
2014/05/22 Javascript
form.submit()不能提交表单的原因分析
2014/10/23 Javascript
BootStrap Table 分页后重新搜索问题的解决办法
2016/08/08 Javascript
Angular2 自定义validators的实现方法
2017/07/05 Javascript
微信小程序实现图片上传功能
2018/05/28 Javascript
详解Vue Elementui中的Tag与页面其它元素相互交互的两三事
2018/09/25 Javascript
Egg.js 中 AJax 上传文件获取参数的方法
2018/10/10 Javascript
python中正则表达式的使用详解
2014/10/17 Python
Python连接MySQL并使用fetchall()方法过滤特殊字符
2016/03/13 Python
利用 python 对目录下的文件进行过滤删除
2017/12/27 Python
Python用于学习重要算法的模块pygorithm实例浅析
2018/08/16 Python
python 读写文件包含多种编码格式的解决方式
2019/12/20 Python
Python判断三段线能否构成三角形的代码
2020/04/12 Python
sklearn线性逻辑回归和非线性逻辑回归的实现
2020/06/09 Python
numpy 矩阵形状调整:拉伸、变成一位数组的实例
2020/06/18 Python
Python爬虫之Selenium实现窗口截图
2020/12/04 Python
python中使用np.delete()的实例方法
2021/02/01 Python
HTML5之SVG 2D入门2—图形绘制(基本形状)介绍及使用
2013/01/30 HTML / CSS
波兰品牌鞋履在线商店:Eastend.pl
2020/01/11 全球购物
会计专业应届生自荐信
2014/02/07 职场文书
党的作风建设心得体会
2014/10/22 职场文书
工人先锋号申报材料
2014/12/29 职场文书
2015年社区纪检工作总结
2015/04/21 职场文书
奖励申请报告范文
2015/05/15 职场文书
国王的演讲观后感
2015/06/03 职场文书
最新的离婚协议书范本!
2019/07/02 职场文书
SQL Server2019数据库备份与还原脚本,数据库可批量备份
2021/11/20 SQL Server
Flutter集成高德地图并添加自定义Maker的实践
2022/04/07 Java/Android
Python实现对齐打印 format函数的用法
2022/04/28 Python