python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
用C++封装MySQL的API的教程
May 06 Python
实例Python处理XML文件的方法
Aug 31 Python
详谈python http长连接客户端
Jun 12 Python
python3 kmp 字符串匹配的方法
Jul 07 Python
Python线程池模块ThreadPoolExecutor用法分析
Dec 28 Python
Python docx库用法示例分析
Feb 16 Python
调试Django时打印SQL语句的日志代码实例
Sep 12 Python
tensorflow2.0的函数签名与图结构(推荐)
Apr 28 Python
Python键鼠操作自动化库PyAutoGUI简介(小结)
May 17 Python
使用tensorflow进行音乐类型的分类
Aug 14 Python
PyTorch预训练Bert模型的示例
Nov 17 Python
Python移位密码、仿射变换解密实例代码
Jun 27 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
PHP4实际应用经验篇(5)
2006/10/09 PHP
Linux下从零开始安装配置Nginx服务器+PHP开发环境
2015/12/21 PHP
Thinkphp批量更新数据的方法汇总
2016/06/29 PHP
PHP实现的回溯算法示例
2017/08/15 PHP
CL vs ForZe BO5 第五场 2.13
2021/03/10 DOTA
js获取html参数及向swf传递参数应用介绍
2013/02/18 Javascript
Javascript 颜色渐变效果的实现代码
2013/10/01 Javascript
js判断数据类型如判断是否为数组是否为字符串等等
2014/01/15 Javascript
jquery实现的点击翻书效果代码
2015/11/04 Javascript
fastclick插件导致日期(input[type="date"])控件无法被触发该如何解决
2015/11/09 Javascript
jQuery Easyui加载表格出错时在表格中间显示自定义的提示内容
2016/12/08 Javascript
基于Vue.js实现tab滑块效果
2017/07/23 Javascript
微信小程序 页面滑动事件的实例详解
2017/10/12 Javascript
Angular6中使用Swiper的方法示例
2018/07/09 Javascript
vue中使用protobuf的过程记录
2018/10/26 Javascript
vue-cli3+typescript新建一个项目的思路分析
2019/08/06 Javascript
jqGrid表格底部汇总、合计行footerrow处理
2019/08/21 Javascript
vue 源码解析之虚拟Dom-render
2019/08/26 Javascript
Node.js系列之发起get/post请求(2)
2019/08/30 Javascript
深入浅析vue中cross-env的使用
2019/09/12 Javascript
[03:20]次级联赛厮杀超职业 现超级兵对拆世纪大战
2014/10/30 DOTA
举例详解Python中yield生成器的用法
2015/08/05 Python
python lxml中etree的简单应用
2019/05/10 Python
python3.7 利用函数os pandas利用excel对文件名进行归类
2019/09/29 Python
基于Python和C++实现删除链表的节点
2020/07/06 Python
HTML5在a标签内放置块级元素示例代码
2013/08/23 HTML / CSS
泰国演唱会订票网站:StubHub泰国
2018/02/26 全球购物
丝芙兰加拿大官方网站:SEPHORA加拿大
2018/11/20 全球购物
茱莉蔻美国官网:Jurlique美国
2020/11/24 全球购物
大学生活学习的自我评价
2013/12/03 职场文书
趣味体育活动方案
2014/02/08 职场文书
日化店促销方案
2014/03/26 职场文书
作风建设演讲稿
2014/05/23 职场文书
综合素质自我评价怎么写
2014/09/14 职场文书
校本培训个人总结
2015/02/28 职场文书
办公室禁烟通知
2015/04/23 职场文书