python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
pycharm 使用心得(九)解决No Python interpreter selected的问题
Jun 06 Python
python获取文件后缀名及批量更新目录下文件后缀名的方法
Nov 11 Python
总结Python编程中三条常用的技巧
May 11 Python
十个Python程序员易犯的错误
Dec 15 Python
Python数组遍历的简单实现方法小结
Apr 27 Python
详细解读tornado协程(coroutine)原理
Jan 15 Python
python实现排序算法解析
Sep 08 Python
Python线程同步的实现代码
Oct 03 Python
Python之——生成动态路由轨迹图的实例
Nov 22 Python
python标准库sys和OS的函数使用方法与实例详解
Feb 12 Python
150行Python代码实现带界面的数独游戏
Apr 04 Python
python实现canny边缘检测
Sep 14 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
PHP构造函数与析构函数用法示例
2016/09/28 PHP
iframe子父页面调用js函数示例
2013/11/07 Javascript
jQuery中clone()方法用法实例
2015/01/16 Javascript
AngularJS基础知识笔记之过滤器
2015/05/10 Javascript
jQuery筛选数组之grep、each、inArray、map的用法及遍历json对象
2016/06/20 Javascript
扩展jquery easyui tree的搜索树节点方法(推荐)
2016/10/28 Javascript
jQuery快速高效制作网页交互特效
2017/02/24 Javascript
vue.js 微信支付前端代码分享
2018/02/10 Javascript
Vue+webpack+Element 兼容问题总结(小结)
2018/08/16 Javascript
vue3.0 CLI - 2.3 - 组件 home.vue 中学习指令和绑定
2018/09/14 Javascript
vue中axios实现数据交互与跨域问题
2019/05/12 Javascript
微信小程序实现多选框全选与取消全选功能示例
2019/05/14 Javascript
js图片查看器插件用法示例
2019/06/22 Javascript
vuex分模块后,实现获取state的值
2020/07/26 Javascript
Python开发的单词频率统计工具wordsworth使用方法
2014/06/25 Python
python实现的文件夹清理程序分享
2014/11/22 Python
基于asyncio 异步协程框架实现收集B站直播弹幕
2016/09/11 Python
python字符串常用方法
2018/06/14 Python
CSS3弹性盒模型开发笔记(二)
2016/04/26 HTML / CSS
使用HTML5拍照示例代码
2013/08/06 HTML / CSS
快时尚眼镜品牌,全国连锁眼镜店:LOHO眼镜生活
2018/10/08 全球购物
机械绘图员岗位职责
2013/11/19 职场文书
电脑教师的教学自我评价
2013/11/26 职场文书
校园自助餐厅的创业计划书
2013/12/26 职场文书
简短大学毕业感言
2014/01/18 职场文书
安全生产责任书
2014/03/12 职场文书
师德模范事迹材料
2014/06/03 职场文书
品牌推广活动策划方案
2014/08/19 职场文书
升学宴演讲稿
2014/09/01 职场文书
2015年党员干部承诺书
2015/01/21 职场文书
英语读书笔记
2015/07/02 职场文书
2016春季幼儿园大班开学寄语
2015/12/03 职场文书
护士心得体会范文
2016/01/25 职场文书
导游词之镇江焦山
2019/11/21 职场文书
微信小程序APP页面的之间的相互传递参数以及自定义组件
2022/04/19 Javascript
python数字图像处理:图像的绘制
2022/06/28 Python