python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
详解Python import方法引入模块的实例
Aug 02 Python
Python解决抛小球问题 求小球下落经历的距离之和示例
Feb 01 Python
Python pygorithm模块用法示例【常见算法测试】
Aug 16 Python
Django 登陆验证码和中间件的实现
Aug 17 Python
OpenCV搞定腾讯滑块验证码的实现代码
May 18 Python
python字符串和常用数据结构知识总结
May 21 Python
python从zip中删除指定后缀文件(推荐)
Dec 05 Python
python中执行smtplib失败的处理方法
Jul 01 Python
详解Pycharm与anaconda安装配置指南
Aug 25 Python
PyCharm 2020.2.2 x64 下载并安装的详细教程
Oct 15 Python
pandas处理csv文件的方法步骤
Oct 16 Python
python 操作excel表格的方法
Dec 05 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
PHP parse_url 一个好用的函数
2009/10/03 PHP
PHP中数字检测is_numeric与ctype_digit的区别介绍
2012/10/04 PHP
浅析PHP中的字符串编码转换(自动识别原编码)
2013/07/02 PHP
使用Huagepage和PGO来提升PHP7的执行性能
2015/11/30 PHP
PHP多进程编程总结(推荐)
2016/07/18 PHP
PHP实现微信模拟登陆并给用户发送消息的方法【文字,图片,图文】
2017/06/29 PHP
PHP实现动态删除XML数据的方法示例
2018/03/30 PHP
thinkphp3.2框架中where条件查询用法总结
2019/08/13 PHP
js验证表单第二部分
2006/11/25 Javascript
二行代码解决全部网页木马
2008/03/28 Javascript
jQuery 快速结束当前正在执行的动画
2013/11/20 Javascript
window.location的重写及判断location是否被重写
2014/09/04 Javascript
返回顶部按钮响应滚动且动态显示与隐藏
2014/10/14 Javascript
jquery实现隐藏在左侧的弹性弹出菜单效果
2015/09/18 Javascript
JS实现的将html转为pdf功能【基于浏览器端插件jsPDF】
2018/02/06 Javascript
bootstrap下拉分页样式 带跳转页码
2018/12/29 Javascript
使用konva和vue-konva库实现拖拽滑块验证功能
2020/04/27 Javascript
vue 点击其他区域关闭自定义div操作
2020/07/17 Javascript
js对象属性名驼峰式转下划线的实例代码
2020/09/17 Javascript
[02:51]2014DOTA2 TI小组赛总结中国军团全部进军钥匙球馆
2014/07/15 DOTA
Python脚本在Appium库上对移动应用实现自动化测试
2015/04/17 Python
python3+PyQt5使用数据库表视图
2018/04/24 Python
Django 中间键和上下文处理器的使用
2019/03/17 Python
小程序瀑布流解决左右两边高度差距过大的问题
2019/02/20 HTML / CSS
澳大利亚领先的在线美容商店:Facial Co
2017/10/22 全球购物
香港零食网购:上仓胃子
2020/06/08 全球购物
乡镇党委书记个人整改措施
2014/09/15 职场文书
学生检讨书范文
2014/10/30 职场文书
酒店财务部岗位职责
2015/04/14 职场文书
毕业实习单位意见
2015/06/04 职场文书
宣传稿格式范文
2015/07/23 职场文书
大学毕业典礼致辞
2015/07/29 职场文书
重阳节主题班会
2015/08/17 职场文书
幼儿园开学家长寄语(2016春季)
2015/12/03 职场文书
Java用自带的Image IO给图片添加水印
2021/06/15 Java/Android
阿里云服务器部署mongodb的详细过程
2021/09/04 MongoDB