python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python获取本地计算机名字的方法
Apr 29 Python
Django Admin实现上传图片校验功能
Mar 06 Python
Python heapq使用详解及实例代码
Jan 25 Python
python 统计代码行数简单实例
May 04 Python
Python实现合并同一个文件夹下所有PDF文件的方法示例
Apr 28 Python
详解Python给照片换底色(蓝底换红底)
Mar 22 Python
python初学者,用python实现基本的学生管理系统(python3)代码实例
Apr 10 Python
解决python3 requests headers参数不能有中文的问题
Aug 21 Python
python 插入日期数据到Oracle实例
Mar 02 Python
浅谈Keras中shuffle和validation_split的顺序
Jun 19 Python
Python变量格式化输出实现原理解析
Aug 06 Python
python对输出的奇数偶数排序实例代码
Dec 04 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
PHP SPL标准库之接口(Interface)详解
2015/05/11 PHP
php实现将二维关联数组转换成字符串的方法详解
2017/07/31 PHP
如何用js控制css中的float的代码
2007/08/16 Javascript
jQuery asp.net 用json格式返回自定义对象
2010/04/07 Javascript
超越Jquery_01_isPlainObject分析与重构
2010/10/20 Javascript
40个有创意的jQuery图片和内容滑动及弹出插件收藏集之三
2012/01/03 Javascript
基于jQuery实现的百度导航li拖放排列效果,即时更新数据库
2012/07/31 Javascript
AJAX跨域请求json数据的实现方法
2013/11/11 Javascript
节点的插入之append()和appendTo()的用法介绍
2014/01/13 Javascript
JavaScript中捕获/阻止捕获、冒泡/阻止冒泡方法
2016/12/07 Javascript
自动适应iframe右边的高度
2016/12/22 Javascript
微信小程序实现图片轮播及文件上传
2017/04/07 Javascript
Angular中使用$watch监听object属性值的变化(详解)
2017/04/24 Javascript
nodejs入门教程二:创建一个简单应用示例
2017/04/24 NodeJs
详解vue项目打包后通过百度的BAE发布到网上的流程
2018/03/05 Javascript
JavaScript执行环境及作用域链实例分析
2018/08/01 Javascript
分享5个小技巧让你写出更好的 JavaScript 条件语句
2018/10/20 Javascript
layui表格内放置图片,并点击放大的实例
2019/09/10 Javascript
element-ui table组件如何使用render属性的实现
2019/11/04 Javascript
leaflet加载geojson叠加显示功能代码
2020/02/21 Javascript
[38:51]2014 DOTA2国际邀请赛中国区预选赛 Orenda VS LGD-CDEC
2014/05/22 DOTA
[52:31]VP vs Serenity 2018国际邀请赛小组赛BO2 第二场 8.16
2018/08/17 DOTA
python写入xml文件的方法
2015/05/08 Python
python实现批量解析邮件并下载附件
2018/06/19 Python
python实现彩色图转换成灰度图
2019/01/15 Python
解决python中用matplotlib画多幅图时出现图形部分重叠的问题
2019/07/07 Python
python异常触发及自定义异常类解析
2019/08/06 Python
解决python 上传图片限制格式问题
2019/10/30 Python
python定义类self用法实例解析
2020/01/22 Python
keras的backend 设置 tensorflow,theano操作
2020/06/30 Python
JDK安装目录下有哪些内容
2014/08/25 面试题
自考毕业自我鉴定范文
2013/10/27 职场文书
通信工程求职信
2014/07/16 职场文书
大国崛起英国观后感
2015/06/02 职场文书
暂住证明怎么写
2015/06/19 职场文书
golang http使用踩过的坑与填坑指南
2021/04/27 Golang