python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
跟老齐学Python之用while来循环
Oct 02 Python
python协程用法实例分析
Jun 04 Python
Python之web模板应用
Dec 26 Python
python中将一个全部为int的list 转化为str的list方法
Apr 09 Python
python3库numpy数组属性的查看方法
Apr 17 Python
Python中的TCP socket写法示例
May 11 Python
Python3中bytes类型转换为str类型
Sep 27 Python
Python弹出输入框并获取输入值的实例
Jun 18 Python
python 实现识别图片上的数字
Jul 30 Python
python判断变量是否为int、字符串、列表、元组、字典的方法详解
Feb 13 Python
用Python写一个简易版弹球游戏
Apr 13 Python
代码复现python目标检测yolo3详解预测
May 06 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
收音机指标测试方法及仪器
2021/03/01 无线电
探讨捕获php错误信息方法的详解
2013/06/09 PHP
php自定义错误处理用法实例
2015/03/20 PHP
wordpress安装过程中遇到中文乱码的处理方法
2015/04/21 PHP
php array_udiff_assoc 计算两个数组的差集实例
2016/11/12 PHP
PHP实现的简单异常处理类示例
2017/05/04 PHP
关于JS字符串函数String.replace()
2013/04/07 Javascript
JS+DIV实现鼠标划过切换层效果的方法
2015/05/25 Javascript
详解JavaScript逻辑And运算符
2015/12/04 Javascript
Node.js插件安装图文教程
2016/05/06 Javascript
jQuery实现智能判断固定导航条或侧边栏的方法
2016/09/04 Javascript
浅谈Angularjs link和compile的使用区别
2016/10/21 Javascript
Node.js使用Angular简单示例
2018/05/11 Javascript
vue中倒计时组件的实例代码
2018/07/06 Javascript
jQuery模仿ToDoList实现简单的待办事项列表
2019/12/30 jQuery
详解javascript脚本何时会被执行
2021/02/05 Javascript
简单掌握Python中glob模块查找文件路径的用法
2016/07/05 Python
详解python3实现的web端json通信协议
2016/12/29 Python
将字典转换为DataFrame并进行频次统计的方法
2018/04/08 Python
selenium在执行phantomjs的API并获取执行结果的方法
2018/12/17 Python
python 列表推导式使用详解
2019/08/29 Python
pytorch中 gpu与gpu、gpu与cpu 在load时相互转化操作
2020/05/25 Python
Python基于tkinter canvas实现图片裁剪功能
2020/11/05 Python
Anaconda的安装与虚拟环境建立
2020/11/18 Python
使用canvas绘制超炫时钟
2014/12/17 HTML / CSS
一波HTML5 Canvas基础绘图实例代码集合
2016/02/28 HTML / CSS
详解HTML5中CSS外观属性
2020/09/10 HTML / CSS
法国在线药房:Shop Pharmacie
2019/11/26 全球购物
介绍一下JMS编程步骤
2015/09/22 面试题
Ruby中的保护方法和私有方法与一般面向对象程序设计语言的一样吗
2013/05/01 面试题
《狼》教学反思
2014/03/02 职场文书
县政府办公室领导班子个人对照检查材料
2014/09/16 职场文书
背起爸爸上学观后感
2015/06/08 职场文书
2015年“我们的节日·重阳节”活动总结
2015/07/29 职场文书
婚礼迎宾词大全
2015/08/10 职场文书
python游戏开发之pygame实现接球小游戏
2022/04/22 Python