网页爬虫之cookie自动获取及过期自动更新的实现方法


Posted in Javascript onMarch 06, 2018

本文实现cookie的自动获取,及cookie过期自动更新。

社交网站中的很多信息需要登录才能获取到,以微博为例,不登录账号,只能看到大V的前十条微博。保持登录状态,必须要用到Cookie。以登录www.weibo.cn 为例:

在chrome中输入:http://login.weibo.cn/login/

网页爬虫之cookie自动获取及过期自动更新的实现方法

分析控制台的Headers的请求返回,会看到weibo.cn有几组返回的cookie。

实现步骤:

1,采用selenium自动登录获取cookie,保存到文件;

2,读取cookie,比较cookie的有效期,若过期则再次执行步骤1;

3,在请求其他网页时,填入cookie,实现登录状态的保持。

1,在线获取cookie

采用selenium + PhantomJS 模拟浏览器登录,获取cookie;

cookies一般会有多个,逐个将cookie存入以.weibo后缀的文件。

def get_cookie_from_network():
 from selenium import webdriver
 url_login = 'http://login.weibo.cn/login/' 
 driver = webdriver.PhantomJS()
 driver.get(url_login)
 driver.find_element_by_xpath('//input[@type="text"]').send_keys('your_weibo_accout') # 改成你的微博账号
 driver.find_element_by_xpath('//input[@type="password"]').send_keys('your_weibo_password') # 改成你的微博密码
 driver.find_element_by_xpath('//input[@type="submit"]').click() # 点击登录
 # 获得 cookie信息
 cookie_list = driver.get_cookies()
 print cookie_list
 cookie_dict = {}
 for cookie in cookie_list:
  #写入文件
  f = open(cookie['name']+'.weibo','w')
  pickle.dump(cookie, f)
  f.close()
  if cookie.has_key('name') and cookie.has_key('value'):
   cookie_dict[cookie['name']] = cookie['value']
 return cookie_dict

2,从文件中获取cookie

从当前目录中遍历以.weibo结尾的文件,即cookie文件。采用pickle解包成dict,比较expiry值与当前时间,若过期则返回为空;

def get_cookie_from_cache():
 cookie_dict = {}
 for parent, dirnames, filenames in os.walk('./'):
  for filename in filenames:
   if filename.endswith('.weibo'):
    print filename
    with open(self.dir_temp + filename, 'r') as f:
     d = pickle.load(f)
     if d.has_key('name') and d.has_key('value') and d.has_key('expiry'):
      expiry_date = int(d['expiry'])
      if expiry_date > (int)(time.time()):
       cookie_dict[d['name']] = d['value']
      else:
       return {}
 return cookie_dict

3,若缓存cookie过期,则再次从网络获取cookie

def get_cookie():
 cookie_dict = get_cookie_from_cache()
 if not cookie_dict:
  cookie_dict = get_cookie_from_network()
 return cookie_dict

4,带cookie请求微博其他主页

def get_weibo_list(self, user_id):
 import requests
 from bs4 import BeautifulSoup as bs
 cookdic = get_cookie()
 url = 'http://weibo.cn/stocknews88' 
 headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.57 Safari/537.36'}
 timeout = 5
 r = requests.get(url, headers=headers, cookies=cookdic,timeout=timeout)
 soup = bs(r.text, 'lxml')
 ...
 # 用BeautifulSoup 解析网页
 ...

总结

以上所述是小编给大家介绍的网页爬虫之cookie自动获取及过期自动更新的实现方法,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Javascript 相关文章推荐
$.extend 的一个小问题
Jun 18 Javascript
基于jQuery实现响应式圆形图片轮播特效
Nov 25 Javascript
js实现简单的验证码
Dec 25 Javascript
JavaScript中值类型和引用类型的区别
Feb 23 Javascript
JavaScript学习笔记之函数记忆
Sep 06 Javascript
通过一次报错详细谈谈Point事件
May 17 Javascript
vue-cli2 构建速度优化的实现方法
Jan 08 Javascript
javascript中的数据类型检测方法详解
Aug 07 Javascript
ionic3双击返回退出应用的方法
Sep 17 Javascript
jQuery实现简单聊天室
Feb 08 jQuery
JavaScript实现拖拽效果
Mar 16 Javascript
jQuery 实现扁平式小清新导航
Jul 07 jQuery
React BootStrap用户体验框架快速上手
Mar 06 #Javascript
基于vue打包后字体和图片资源失效问题的解决方法
Mar 06 #Javascript
详谈vue+webpack解决css引用图片打包后找不到资源文件的问题
Mar 06 #Javascript
解决vue+webpack打包路径的问题
Mar 06 #Javascript
解决Vue打包之后文件路径出错的问题
Mar 06 #Javascript
解决在vue项目中,发版之后,背景图片报错,路径不对的问题
Mar 06 #Javascript
在vue中,v-for的索引index在html中的使用方法
Mar 06 #Javascript
You might like
php 破解防盗链图片函数
2008/12/09 PHP
PHP生成短网址的3种方法代码实例
2014/07/08 PHP
PHP5.3安装Zend Guard Loader图文教程
2014/09/29 PHP
经典PHP加密解密函数Authcode()修复版代码
2015/04/05 PHP
PHP redis实现超迷你全文检索
2017/03/04 PHP
一个判断email合法性的函数[非正则]
2008/12/09 Javascript
JSQL SQLProxy 的 php 版本代码
2010/05/05 Javascript
JQuery浮动DIV提示信息并自动隐藏的代码
2010/08/29 Javascript
js 对小数加法精度处理示例说明
2013/12/27 Javascript
jquery清空表单数据示例分享
2014/02/13 Javascript
为jquery的ajaxfileupload增加附加参数的方法
2014/03/04 Javascript
借助JavaScript脚本判断浏览器Flash Player信息的方法
2014/07/09 Javascript
javascript实现时间格式输出FormatDate函数
2015/01/13 Javascript
JQuery复制DOM节点的方法
2015/06/11 Javascript
javascript中new关键字详解
2015/12/14 Javascript
几种经典排序算法的JS实现方法
2016/03/25 Javascript
基于HTML模板和JSON数据的JavaScript交互(移动端)
2016/04/06 Javascript
基于jQuery和hwSlider实现内容左右滑动切换效果附源码下载(一)
2016/06/22 Javascript
完美实现八种js焦点轮播图(下篇)
2020/04/20 Javascript
jQuery实现为LI列表前3行设置样式的方法【2种方法】
2016/09/04 Javascript
js编写三级联动简单案例
2016/12/21 Javascript
关于bootstrap日期转化,bootstrap-editable的简单使用,bootstrap-fileinput的使用详解
2017/05/12 Javascript
提升页面加载速度的插件InstantClick
2017/09/12 Javascript
详解vue + vuex + directives实现权限按钮的思路
2017/10/24 Javascript
JS控制鼠标拒绝点击某一按钮的实例
2017/12/29 Javascript
可能被忽略的一些JavaScript数组方法细节
2019/02/28 Javascript
Vue之Mixins(混入)的使用方法
2019/09/24 Javascript
微信小程序实现加入购物车滑动轨迹
2020/11/18 Javascript
Python流程控制 while循环实现解析
2019/09/02 Python
python实现可下载音乐的音乐播放器
2020/02/25 Python
让IE6支持css3,让 IE7、IE8 都支持CSS3
2011/10/09 HTML / CSS
梅西百货澳大利亚:Macy’s Australia
2017/07/26 全球购物
Everlast官网:拳击、综合格斗和健身相关的体育用品
2020/08/03 全球购物
授权委托书格式范文
2014/08/02 职场文书
2015年感恩节演讲稿(优选篇)
2015/03/20 职场文书
创业计划书之网络外卖
2019/10/31 职场文书