python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python函数嵌套实例
Sep 23 Python
python使用calendar输出指定年份全年日历的方法
Apr 04 Python
简单谈谈Python中的闭包
Nov 30 Python
Python制作简易注册登录系统
Dec 15 Python
python导入模块交叉引用的方法
Jan 19 Python
python opencv 读取本地视频文件 修改ffmpeg的方法
Jan 26 Python
Python实现的多进程拷贝文件并显示百分比功能示例
Apr 09 Python
Python:二维列表下标互换方式(矩阵转置)
Dec 02 Python
Python合并2个字典成1个新字典的方法(9种)
Dec 19 Python
pytorch中的inference使用实例
Feb 20 Python
python学习之panda数据分析核心支持库
May 07 Python
python库sklearn常用操作
Aug 23 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
PHP nl2br函数 将换行字符转成 <br>
2009/08/21 PHP
php 强制下载文件实现代码
2013/10/28 PHP
php实现水印文字和缩略图的方法示例
2016/12/29 PHP
php获取数据库中数据的实现方法
2017/06/01 PHP
PHP实现基于图的深度优先遍历输出1,2,3...n的全排列功能
2017/11/10 PHP
PHP性能分析工具xhprof的安装使用与注意事项
2017/12/19 PHP
使用Apache的rewrite
2021/03/09 Servers
jQuery-ui中自动完成实现方法
2010/06/10 Javascript
jQuery操作input type=radio的实现代码
2012/06/14 Javascript
JS中如何设置readOnly的值
2013/12/25 Javascript
javascript的数组和常用函数详解
2014/05/09 Javascript
JavaScript 节流函数 Throttle 详解
2016/07/04 Javascript
原生js实现键盘控制div移动且解决停顿问题
2016/12/05 Javascript
jquery利用json实现页面之间传值的实例解析
2016/12/12 Javascript
详解微信小程序 通过控制CSS实现view隐藏与显示
2017/05/24 Javascript
原生js实现拖拽功能基本思路详解
2018/04/18 Javascript
小程序登录/注册页面设计的实现代码
2019/05/24 Javascript
Layui 解决表格异步调用后台分页的问题
2019/10/26 Javascript
详解为element-ui的Select和Cascader添加弹层底部操作按钮
2020/02/07 Javascript
python实现指定字符串补全空格的方法
2015/04/30 Python
python套接字流重定向实例汇总
2016/03/03 Python
python 使用pandas计算累积求和的方法
2019/02/08 Python
对IPython交互模式下的退出方法详解
2019/02/16 Python
关于win10在tensorflow的安装及在pycharm中运行步骤详解
2020/03/16 Python
使用keras实现Precise, Recall, F1-socre方式
2020/06/15 Python
如何在VSCode下使用Jupyter的教程详解
2020/07/13 Python
利用python3筛选excel中特定的行(行值满足某个条件/行值属于某个集合)
2020/09/04 Python
将HTML5 Canvas的内容保存为图片借助toDataURL实现
2013/05/20 HTML / CSS
美国咖啡批发网站:Coffee.org
2017/06/29 全球购物
英国马匹装备和马术用品购物网站:Equine Superstore
2019/03/03 全球购物
培训心得体会
2013/12/29 职场文书
厕所文明标语
2014/06/11 职场文书
经营目标管理责任书
2014/07/25 职场文书
初中学校对照检查材料
2014/08/19 职场文书
2016年教师党员承诺书范文
2016/03/24 职场文书
导游词之绍兴柯岩古镇
2020/01/09 职场文书