编程 Python

如何使用python爬虫爬取要登陆的网站

Posted in Python onJuly 12, 2019

你好

由于你是游客

无法查看本文

请你登录再进

谢谢合作。。。。。

如何使用python爬虫爬取要登陆的网站

当你在爬某些网站的时候

需要你登录才可以获取数据

咋整？

莫慌

把这几招传授给你

让你以后从容应对

如何使用python爬虫爬取要登陆的网站

登录的常见方法无非是这两种

1、让你输入帐号和密码登录

如何使用python爬虫爬取要登陆的网站

2、让你输入帐号密码+验证码登录

如何使用python爬虫爬取要登陆的网站

今天

先跟你说说第一种

需要验证码的咱们下一篇再讲

第一招

如何使用python爬虫爬取要登陆的网站

Cookie大法

你平常在上某个不为人知的网站的时候

是不是发现你只要登录一次

就可以一直看到你想要的内容

过了一阵子才需要再次登录

这就是因为 Cookie 在做怪

简单来说

就是每一个使用这个网站的人

服务器都会给他一个 Cookie

那么下次你再请求数据的时候

你顺带把这个 Cookie 传过去

服务器一看

诶，小伙子是老客户啊

如何使用python爬虫爬取要登陆的网站

有登录过

直接返回数据给他吧

在服务中还可以设置 Cookie 的有效时间

也就是说

当你下次携带一个过期了的 Cookie 给服务器的时候

服务器虽然知道你是老客户

但是还是需要你重新再登录一次

然后再给你一个有效的 Cookie

Cookie 的时长周期是服务器那边定的

了解了这一点之后

我们就来玩一下吧

我们以「逼乎」为例

https://biihu.cc/account/login/

输入地址之后

按一下 F12

点击 network 标签

然后登录你的帐号

然后点击其中一个

你就可以看到在 Request Headers 有你的 Cookie

如何使用python爬虫爬取要登陆的网站

有了 Cookie 之后

我们在代码中直接获取我的个人信息

import requests
headers = {
 # 假装自己是浏览器
 'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/73.0.3683.75 Chrome/73.0.3683.75 Safari/537.36',
 # 把你刚刚拿到的Cookie塞进来
 'Cookie': 'eda38d470a662ef3606390ac3b84b86f9; Hm_lvt_f1d3b035c559e31c390733e79e080736=1553503899; biihu__user_login=omvZVatKKSlcXbJGmXXew9BmqediJ4lzNoYGzLQjTR%2Fjw1wOz3o4lIacanmcNncX1PsRne5tXpE9r1sqrkdhAYQrugGVfaBICYp8BAQ7yBKnMpAwicq7pZgQ2pg38ZzFyEZVUvOvFHYj3cChZFEWqQ%3D%3D; Hm_lpvt_f1d3b035c559e31c390733e79e080736=1553505597',
}
session = requests.Session()
response = session.get('https://biihu.cc/people/wistbean%E7%9C%9F%E7%89%B9%E4%B9%88%E5%B8%85', headers=headers)
print(response.text)

运行后可以发现不用登录就可以直接拿到自己的个人信息了

<!DOCTYPE html>
<html>
<head>
<meta content="text/html;charset=utf-8" http-equiv="Content-Type" />
<meta content="width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no" name="viewport" />
<meta http-equiv="X-UA-Compatible" content="IE=edge,Chrome=1" />
<meta name="renderer" content="webkit" />
<title>小帅b真特么帅 的个人主页 - 逼乎</title>
<meta name="keywords" content="逼乎,问答,装逼,逼乎网站" />
<meta name="description" content="逼乎 ，与世界分享你的装逼技巧与见解" />
<base href="https://biihu.cc/" rel="external nofollow" /><!--[if IE]></base><![endif]-->
<link rel="stylesheet" type="text/css" href="https://biihu.cc/static/css/bootstrap.css" rel="external nofollow" />
<link rel="stylesheet" type="text/css" href="https://biihu.cc/static/css/icon.css" rel="external nofollow" />
<link href="https://biihu.cc/static/css/default/common.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/default/link.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/js/plug_module/style.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/default/user.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/mood/mood.css" rel="external nofollow" rel="stylesheet" type="text/css" />
<script type="text/javascript">
 var _02AEC94D5CA08B39FC0E1F7CC220F9B4="a5359326797de302bfc9aa6302c001b8";
 var G_POST_HASH=_02AEC94D5CA08B39FC0E1F7CC220F9B4;
 var G_INDEX_SCRIPT = "";
 var G_SITE_NAME = "逼乎";
 var G_BASE_URL = "https://biihu.cc";
 var G_STATIC_URL = "https://biihu.cc/static";
 var G_UPLOAD_URL = "/uploads";
 var G_USER_ID = "188";
 var G_USER_NAME = "666";
 var G_UPLOAD_ENABLE = "Y";
 var G_UNREAD_NOTIFICATION = 0;
 var G_NOTIFICATION_INTERVAL = 100000;
 var G_CAN_CREATE_TOPIC = "1";
 var G_ADVANCED_EDITOR_ENABLE = "Y";
 var FILE_TYPES = "jpg,jpeg,png,gif,zip,doc,docx,rar,pdf,psd";
</script>
<script src="https://biihu.cc/static/js/jquery.2.js?v=20180831" type="text/javascript"></script>

第二招

如何使用python爬虫爬取要登陆的网站

表单请求大法

很简单

就是通过抓包

获取请求登录的时候需要用到的用户名密码参数

然后以表单的形式请求服务器

如果你细心一点的话应该会知道之前说过拉

具体在这

去看下

我就不多说了

第三招

如何使用python爬虫爬取要登陆的网站

Selenium 自动登录法

获取到两个输入框的元素

再获取到登录按钮

往输入框写你的帐号密码

然后自动点击一下登录

username = WAIT.until(EC.presence_of_element_located((By.CSS_SELECTOR, "帐号的selector")))
password = WAIT.until(EC.presence_of_element_located((By.CSS_SELECTOR, "密码的selector")))
submit = WAIT.until(EC.element_to_be_clickable((By.XPATH, '按钮的xpath')))
username.send_keys('你的帐号')
password.send_keys('你的密码')
submit.click()

登录完之后拿到 Cookie

cookies = webdriver.get_cookies()

有了 Cookie 你就可以拿到你想要的数据了，希望对你有帮助

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持三水点靠木。

如何使用python爬虫爬取要登陆的网站

- Author -

千锋Python唐唐君

声明：登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

Python 相关文章推荐

Python代码的打包与发布详解

Jul 30 Python

Python 爬取携程所有机票的实例代码

Jun 11 Python

pandas的唯一值、值计数以及成员资格的示例

Jul 25 Python

Pycharm无法显示动态图片的解决方法

Oct 28 Python

在pycharm 中添加运行参数的操作方法

Jan 19 Python

Python获取基金网站网页内容、使用BeautifulSoup库分析html操作示例

Jun 04 Python

pyQt5实时刷新界面的示例

Jun 25 Python

Python Web框架之Django框架Form组件用法详解

Aug 16 Python

Python+Dlib+Opencv实现人脸采集并表情判别功能的代码

Jul 01 Python

selenium+python自动化78-autoit参数化与批量上传功能的实现

Mar 04 Python

Jupyter notebook 更改文件打开的默认路径操作

May 21 Python

Pytest中conftest.py的用法

Jun 27 Python

Pycharm使用之设置代码字体大小和颜色主题的教程

Jul 12 #Python

python增加图像对比度的方法

Jul 12 #Python

Python 控制终端输出文字的实例

Jul 12 #Python

在Django的View中使用asyncio的方法

Jul 12 #Python

检测python爬虫时是否代理ip伪装成功的方法

Jul 12 #Python

在PyCharm中控制台输出日志分层级分颜色显示的方法

Jul 11 #Python

基于sklearn实现Bagging算法（python）

Jul 11 #Python

You might like

php 禁止页面缓存输出

2009/01/07 PHP

PHP连接SQLServer2005方法及代码

2013/12/26 PHP

PHP调用JAVA的WebService简单实例

2014/03/11 PHP

PHP的变量类型和作用域详解

2014/03/12 PHP

Yii框架用户登录session丢失问题解决方法

2017/01/07 PHP

TP5框架简单登录功能实现方法示例

2019/10/31 PHP

使用基于jquery的gamequery插件做JS乒乓球游戏

2011/07/31 Javascript

js判断样式className同时增加class或删除class

2013/01/30 Javascript

jquery 元素控制(追加元素/追加内容)介绍及应用

2013/04/21 Javascript

jquery索引在使用中的一些困惑

2013/10/24 Javascript

js与C#进行时间戳转换

2014/11/14 Javascript

JavaScript更改原始对象valueOf的方法

2015/03/19 Javascript

浅谈JavaScript中的字符编码转换问题

2015/07/07 Javascript

js 输入框正则表达式(菜鸟必看教程)

2017/02/19 Javascript

JS实现多级菜单中当前菜单不随页面跳转样式而发生变化

2017/05/30 Javascript

Angular实现下拉框模糊查询功能示例

2018/01/03 Javascript

在vscode中统一vue编码风格的方法

2018/02/22 Javascript

vue-cli的工程模板与构建工具详解

2018/09/27 Javascript

微信小程序实现上传照片代码实例解析

2020/08/04 Javascript

[01:52]2014DOTA2西雅图邀请赛 V社开大会你不知道的小秘密

2014/07/08 DOTA

[38:38]完美世界DOTA2联赛PWL S3 access vs Rebirth 第二场 12.17

2020/12/18 DOTA

Python实现基于TCP UDP协议的IPv4 IPv6模式客户端和服务端功能示例

2018/03/22 Python

Python快速查找list中相同部分的方法

2018/06/27 Python

python实现浪漫的烟花秀

2019/01/30 Python

Python Pandas分组聚合的实现方法

2019/07/02 Python

python通过matplotlib生成复合饼图

2020/02/06 Python

HTML5之WebGL 3D概述(上)—WebGL原生开发开启网页3D渲染新时代

2013/01/31 HTML / CSS

牛津在线药房：Oxford Online Pharmacy

2020/11/16 全球购物

一份全面的PHP面试问题考卷

2012/07/15 面试题

.net C#面试题

2012/08/28 面试题

Math.round(11.5)等於多少？ Math.round(-11.5)等於多少？

2015/01/27 面试题

大学生年度自我鉴定

2013/10/31 职场文书

简历中自我评价怎么写

2014/02/12 职场文书

2014年党支部书记工作总结

2014/12/04 职场文书

人与自然观后感

2015/06/16 职场文书

详解JAVA中的OPTIONAL

2021/06/14 Java/Android