python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python实现简单过滤文本段的方法
May 24 Python
用生成器来改写直接返回列表的函数方法
May 25 Python
Python实现线程状态监测简单示例
Mar 28 Python
Windows下anaconda安装第三方包的方法小结(tensorflow、gensim为例)
Apr 05 Python
python使用matplotlib模块绘制多条折线图、散点图
Apr 26 Python
python实现烟花小程序
Jan 30 Python
用Python解决x的n次方问题
Feb 08 Python
python语言线程标准库threading.local解读总结
Nov 10 Python
Django中密码的加密、验密、解密操作
Dec 19 Python
python实现拼图小游戏
Feb 22 Python
Python开发企业微信机器人每天定时发消息实例
Mar 17 Python
Python定时任务框架APScheduler原理及常用代码
Oct 05 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
浅析Mysql 数据回滚错误的解决方法
2013/08/05 PHP
提交表单后 PHP获取提交内容的实现方法
2016/05/25 PHP
jquery实现漂浮在网页右侧的qq在线客服插件示例
2013/05/13 Javascript
JS长整型精度问题实例分析
2015/01/13 Javascript
jquery实现网页的页面平滑滚动效果代码
2015/11/02 Javascript
前端面试题及答案整理(二)
2016/08/26 Javascript
把json格式的字符串转换成javascript对象或数组的方法总结
2016/11/03 Javascript
JS Select下拉框(支持输入模糊查询)
2017/02/04 Javascript
10道典型的JavaScript面试题
2017/03/22 Javascript
Angularjs 动态添加指令并绑定事件的方法
2017/04/13 Javascript
基于ES6 Array.of的用法(实例讲解)
2017/09/05 Javascript
详解10分钟学会vue滚动行为
2017/09/21 Javascript
vue引入js数字小键盘的实现代码
2018/05/14 Javascript
vue后台管理之动态加载路由的方法
2018/08/13 Javascript
js时间转换毫秒的实例代码
2019/08/21 Javascript
python获得两个数组交集、并集、差集的方法
2015/03/27 Python
Django中对数据查询结果进行排序的方法
2015/07/17 Python
深入解析Python中的__builtins__内建对象
2016/06/21 Python
解决Python 命令行执行脚本时,提示导入的包找不到的问题
2019/01/19 Python
pytorch 获取tensor维度信息示例
2020/01/03 Python
基于Pycharm加载多个项目过程图解
2020/01/19 Python
Nginx+Uwsgi+Django 项目部署到服务器的思路详解
2020/05/08 Python
基于Python实现视频的人脸融合功能
2020/06/12 Python
pycharm 实现调试窗口恢复
2021/02/05 Python
英国领先的鞋类零售商和顶级品牌的官方零售商:Wynsors
2020/02/17 全球购物
生物专业个人自荐信范文
2013/11/29 职场文书
商务英语应届生自我鉴定
2013/12/08 职场文书
酒店司机岗位职责
2013/12/14 职场文书
人民教师的自我评价分享
2014/02/21 职场文书
无偿献血倡议书
2014/04/14 职场文书
工厂标语大全
2014/10/06 职场文书
小学新教师个人总结
2015/02/05 职场文书
2016年读书月活动总结范文
2016/04/06 职场文书
优秀员工演讲稿
2019/06/21 职场文书
MySQL安装后默认自带数据库的作用详解
2021/04/27 MySQL
在vue中import()语法不能传入变量的问题及解决
2022/04/01 Vue.js