Python实现模拟浏览器请求及会话保持操作示例


Posted in Python onJuly 30, 2018

本文实例讲述了Python实现模拟浏览器请求及会话保持操作。分享给大家供大家参考,具体如下:

python下读取一个页面的数据可以通过urllib2轻松实现请求

import urllib2
print urllib2.urlopen('http://www.baidu.com').read()

涉及到页面的POST请求操作的话需要提供头信息,提交的post数据和请求页面。

其中的post数据需要urllib.encode()一下,其实就是将字典转换成“data1=value1&data2=value2”的格式。

import urllib
import urllib2
HEADER = {
 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
 'Referer' : 'http://202.206.1.163/logout.do'
}
POSTDATA = {
 'data1': 'value1',
 'data2': 'value2'
}
HOSTURL = 'http://xxx.com'
enpostdata = urllib.urlencode(POSTDATA)
urlrequest = urllib2.Request(hosturl,enpostdata,HEADER)
urlresponse = urllib2.urlopen(urlrequest)
print urlresponse.read()

请求之后浏览器会有一个会话保持的过程,会话都是保存在一个cookie里面的,下一次页面的请求会把cookie放到请求头,如果cookie丢失会话也就断开了。

Python实现模拟浏览器请求及会话保持操作示例

在python下面需要设置一下cookie的保持

# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)

下面是将以上知识点汇总写的一个库文件,方便使用:

# filename: analogop.py
#!/usr/bin/python
# -*-coding:UTF-8 -*-
# author: 初行
# qq: 121866673
# mail: zxbd1016@163.com
# message: I need a python job
# time: 2014/10/5
import urllib
import urllib2
import cookielib
# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)
# default header
HEADER = {
 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
 'Referer' : 'http://202.206.1.163/logout.do'
}
# operate method
def geturlopen(hosturl, postdata = {}, headers = HEADER):
 # encode postdata
 enpostdata = urllib.urlencode(postdata)
 # request url
 urlrequest = urllib2.Request(hosturl, enpostdata, headers)
 # open url
 urlresponse = urllib2.urlopen(urlrequest)
 # return url
 return urlresponse

这个是测试文件,因为读者没有测试环境,需要自己搭建或者找个网站测试:

#filename: test.py
from analogop import geturlopen
postd = {
 'usernum': '2011411111',
 'upw': '124569',
 'userip': '192.168.10.1',
 'token': 'xxx'
}
urlread = geturlopen('http://127.0.0.1:8000/login/', postd)
print urlread.read().decode('utf-8')
urlread = geturlopen('http://127.0.0.1:8000/chafen/', {})
print urlread.read().decode('utf-8')

更多关于Python相关内容可查看本站专题:《Python Socket编程技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
python中如何使用正则表达式的集合字符示例
Oct 09 Python
Python实现检测文件MD5值的方法示例
Apr 11 Python
用Python shell简化开发
Aug 08 Python
python+opencv 读取文件夹下的所有图像并批量保存ROI的方法
Jan 10 Python
Python面向对象程序设计多继承和多态用法示例
Apr 08 Python
Python实现的登录验证系统完整案例【基于搭建的MVC框架】
Apr 12 Python
Python基本数据结构之字典类型dict用法分析
Jun 08 Python
Django MEDIA的配置及用法详解
Jul 25 Python
Python利用 utf-8-sig 编码格式解决写入 csv 文件乱码问题
Feb 21 Python
python实现按键精灵找色点击功能教程,使用pywin32和Pillow库
Jun 04 Python
Tensorflow之MNIST CNN实现并保存、加载模型
Jun 17 Python
浅谈Python数学建模之数据导入
Jun 23 Python
tensorflow 打印内存中的变量方法
Jul 30 #Python
Python实现的多叉树寻找最短路径算法示例
Jul 30 #Python
tensorflow: variable的值与variable.read_value()的值区别详解
Jul 30 #Python
Tensorflow 实现修改张量特定元素的值方法
Jul 30 #Python
python用BeautifulSoup库简单爬虫实例分析
Jul 30 #Python
对TensorFlow的assign赋值用法详解
Jul 30 #Python
Python双向循环链表实现方法分析
Jul 30 #Python
You might like
PHP4(windows版本)中的COM函数
2006/10/09 PHP
PHP XML操作类DOMDocument
2009/12/16 PHP
解决PhpMyAdmin中导入2M以上大文件限制的方法分享
2014/06/06 PHP
PHP中使用GD库绘制折线图 折线统计图的绘制方法
2015/11/09 PHP
ThinkPHP中limit()使用方法详解
2016/04/19 PHP
thinkPHP的表达式查询用法详解
2016/09/14 PHP
详解将数据从Laravel传送到vue的四种方式
2019/10/16 PHP
IE6图片加载的一个BUG解决方法
2010/07/13 Javascript
JQuery给元素添加/删除节点比如select
2013/04/02 Javascript
JS复制到剪贴板示例代码
2013/10/30 Javascript
如何判断元素是否为HTMLElement元素
2013/12/06 Javascript
JS获取浏览器语言动态加载JS文件示例代码
2014/10/31 Javascript
js实现鼠标移到链接文字弹出一个提示层的方法
2015/05/11 Javascript
easyui中combotree循环获取父节点至根节点并输出路径实现方法
2016/11/10 Javascript
Bootstrap栅格系统的使用和理解2
2016/12/14 Javascript
jQuery实现浏览器之间跳转并传递参数功能【支持中文字符】
2018/03/28 jQuery
javascript性能优化之分时函数的介绍
2018/03/28 Javascript
你可能从未使用过的11+个JavaScript特性(小结)
2020/01/08 Javascript
[42:23]完美世界DOTA2联赛PWL S3 Forest vs Rebirth 第二场 12.10
2020/12/13 DOTA
Python网络编程之TCP与UDP协议套接字用法示例
2018/02/02 Python
Python迭代器与生成器用法实例分析
2018/07/09 Python
Python OOP类中的几种函数或方法总结
2019/02/22 Python
详解python执行shell脚本创建用户及相关操作
2019/04/11 Python
Python数据分析模块pandas用法详解
2019/09/04 Python
python3下pygame如何实现显示中文
2020/01/11 Python
基于Modernizr 让网站进行优雅降级的分析
2013/04/21 HTML / CSS
荷兰男士时尚网上商店:Suitable
2017/12/25 全球购物
俄罗斯女装店:12storeez
2019/10/25 全球购物
开办饭店创业计划书
2013/12/28 职场文书
外企财务年会演讲稿
2014/01/03 职场文书
制药工程专业个人求职自荐信
2014/01/25 职场文书
机械设计毕业生自荐信
2014/02/02 职场文书
出纳试用期工作总结2015
2015/05/28 职场文书
新闻报道稿范文
2015/07/23 职场文书
用Python提取PDF表格的方法
2021/04/11 Python
详解Vue项目的打包方式(生成dist文件)
2022/01/18 Vue.js