python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python程序语言快速上手教程
Jul 18 Python
Python Sleep休眠函数使用简单实例
Feb 02 Python
Python实现批量下载图片的方法
Jul 08 Python
Python中断言Assertion的一些改进方案
Oct 27 Python
python机器学习之贝叶斯分类
Mar 26 Python
Python实现购物车购物小程序
Apr 18 Python
详解python中的hashlib模块的使用
Apr 22 Python
Python QQBot库的QQ聊天机器人
Jun 19 Python
Python实现蒙特卡洛算法小实验过程详解
Jul 12 Python
python3实现单目标粒子群算法
Nov 14 Python
Python新手如何进行闭包时绑定变量操作
May 29 Python
python的scipy.stats模块中正态分布常用函数总结
Feb 19 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
用Flash图形化数据(一)
2006/10/09 PHP
需要发散思维学习PHP
2009/06/29 PHP
CI框架Session.php源码分析
2014/11/03 PHP
ThinkPHP+EasyUI之ComboTree中的会计科目树形菜单实现方法
2017/06/09 PHP
详解php中生成标准uuid(guid)的方法
2019/04/28 PHP
php实现记事本案例
2020/10/20 PHP
window.open被浏览器拦截后的自定义提示效果代码
2007/11/19 Javascript
基于jQuery实现表格数据的动态添加与统计的代码
2011/01/31 Javascript
jQuery表单验证插件formValidator(改进版)
2012/02/03 Javascript
JS实现三个层重叠点击互相切换的方法
2015/10/06 Javascript
jQuery常用知识点总结以及平时封装常用函数
2016/02/23 Javascript
基于Bootstrap的Metronic框架实现页面链接收藏夹功能
2016/08/29 Javascript
Ext JS 实现建议词模糊动态搜索功能
2017/05/13 Javascript
vue自定义指令的创建和使用方法实例分析
2018/12/04 Javascript
js实现页面多个日期时间倒计时效果
2019/06/20 Javascript
用Angular实现一个扫雷的游戏示例
2020/05/15 Javascript
Vue中nprogress页面加载进度条的方法实现
2020/11/13 Javascript
Python实现在Linux系统下更改当前进程运行用户
2015/02/04 Python
python 数据清洗之数据合并、转换、过滤、排序
2017/02/12 Python
Django中Model的使用方法教程
2018/03/07 Python
Python2和Python3.6环境解决共存问题
2018/11/09 Python
python paramiko远程服务器终端操作过程解析
2019/12/14 Python
Python函数参数分类原理详解
2020/05/28 Python
深入解析HTML5 Canvas控制图形矩阵变换的方法
2016/03/24 HTML / CSS
HTML5 localStorage使用总结
2017/02/22 HTML / CSS
《我的第一本书》教学反思
2014/02/15 职场文书
家长写给老师的建议书
2014/03/13 职场文书
外贸会计专业自荐信
2014/06/22 职场文书
学校党委干部个人对照检查材料思想汇报
2014/10/09 职场文书
乡镇领导班子四风整顿行动工作汇报
2014/10/25 职场文书
党校党性分析材料
2014/12/19 职场文书
卢旺达饭店观后感
2015/06/05 职场文书
医者仁心观后感
2015/06/17 职场文书
浅谈Python列表嵌套字典转化的问题
2021/04/07 Python
springboot中一些比较常用的注解总结
2021/06/11 Java/Android
nginx请求限制配置方法
2021/07/09 Servers