python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python中文件遍历的两种方法
Jun 16 Python
python实现在sqlite动态创建表的方法
May 08 Python
Python函数中*args和**kwargs来传递变长参数的用法
Jan 26 Python
Python实现定时备份mysql数据库并把备份数据库邮件发送
Mar 08 Python
VScode编写第一个Python程序HelloWorld步骤
Apr 06 Python
Python 使用类写装饰器的小技巧
Sep 30 Python
python3使用pandas获取股票数据的方法
Dec 22 Python
这可能是最好玩的python GUI入门实例(推荐)
Jul 19 Python
程序员的七夕用30行代码让Python化身表白神器
Aug 07 Python
Python 点击指定位置验证码破解的实现代码
Sep 11 Python
解决Python二维数组赋值问题
Nov 28 Python
selenium判断元素是否存在的两种方法小结
Dec 07 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
php防止sql注入代码实例
2013/12/18 PHP
smarty简单分页的实现方法
2014/10/27 PHP
laravel migrate初学常见错误的解决方法
2017/10/11 PHP
详解PHP中mb_strpos的使用
2018/02/04 PHP
使用Math.floor与Math.random取随机整数的方法详解
2013/05/07 Javascript
AJAX跨域请求json数据的实现方法
2013/11/11 Javascript
js加载读取内容及显示与隐藏div示例
2014/02/13 Javascript
jQuery 插件开发指南
2014/11/14 Javascript
node.js中的fs.readFile方法使用说明
2014/12/15 Javascript
Nodejs Stream 数据流使用手册
2016/04/17 NodeJs
基于jQuery Ajax实现下拉框无刷新联动
2017/12/06 jQuery
JavaScript引用类型Array实例分析
2018/07/24 Javascript
JavaScript中this关键字用法实例分析
2018/08/24 Javascript
JavaScript栈和队列相关操作与实现方法详解
2018/12/07 Javascript
react native 原生模块桥接的简单说明小结
2019/02/26 Javascript
微信小程序实现类似微信点击语音播放效果
2020/03/30 Javascript
ES5新增数组的实现方法
2020/05/12 Javascript
分享python数据统计的一些小技巧
2016/07/21 Python
selenium3+python3环境搭建教程图解
2018/12/07 Python
Python函数式编程指南:对生成器全面讲解
2019/11/19 Python
python正则表达式匹配IP代码实例
2019/12/28 Python
浅谈TensorFlow之稀疏张量表示
2020/06/30 Python
python中关于数据类型的学习笔记
2020/07/19 Python
澳大利亚男士西服品牌:M.J.Bale
2018/02/06 全球购物
abstract是什么意思
2012/02/12 面试题
Lucene推荐的分页方式是什么?
2015/12/07 面试题
三八节主持词
2014/03/17 职场文书
2014五一国际劳动节活动总结范文
2014/04/14 职场文书
高中综合实践活动总结
2014/07/07 职场文书
信息与计算机科学职业规划范文:成为一艘有方向的船
2014/09/11 职场文书
法定代表人授权委托书格式
2014/10/14 职场文书
行政诉讼答辩状
2015/05/21 职场文书
HTML5页面音频自动播放的实现方式
2021/06/21 HTML / CSS
「天才王子的赤字国家重生术」妮妮姆·拉雷粘土人开订
2022/03/21 日漫
Redis实现主从复制方式(Master&Slave)
2022/06/21 Redis
MySQL数据库配置信息查看与修改方法详解
2022/06/25 MySQL