Python实现模拟浏览器请求及会话保持操作示例


Posted in Python onJuly 30, 2018

本文实例讲述了Python实现模拟浏览器请求及会话保持操作。分享给大家供大家参考,具体如下:

python下读取一个页面的数据可以通过urllib2轻松实现请求

import urllib2
print urllib2.urlopen('http://www.baidu.com').read()

涉及到页面的POST请求操作的话需要提供头信息,提交的post数据和请求页面。

其中的post数据需要urllib.encode()一下,其实就是将字典转换成“data1=value1&data2=value2”的格式。

import urllib
import urllib2
HEADER = {
 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
 'Referer' : 'http://202.206.1.163/logout.do'
}
POSTDATA = {
 'data1': 'value1',
 'data2': 'value2'
}
HOSTURL = 'http://xxx.com'
enpostdata = urllib.urlencode(POSTDATA)
urlrequest = urllib2.Request(hosturl,enpostdata,HEADER)
urlresponse = urllib2.urlopen(urlrequest)
print urlresponse.read()

请求之后浏览器会有一个会话保持的过程,会话都是保存在一个cookie里面的,下一次页面的请求会把cookie放到请求头,如果cookie丢失会话也就断开了。

Python实现模拟浏览器请求及会话保持操作示例

在python下面需要设置一下cookie的保持

# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)

下面是将以上知识点汇总写的一个库文件,方便使用:

# filename: analogop.py
#!/usr/bin/python
# -*-coding:UTF-8 -*-
# author: 初行
# qq: 121866673
# mail: zxbd1016@163.com
# message: I need a python job
# time: 2014/10/5
import urllib
import urllib2
import cookielib
# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)
# default header
HEADER = {
 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
 'Referer' : 'http://202.206.1.163/logout.do'
}
# operate method
def geturlopen(hosturl, postdata = {}, headers = HEADER):
 # encode postdata
 enpostdata = urllib.urlencode(postdata)
 # request url
 urlrequest = urllib2.Request(hosturl, enpostdata, headers)
 # open url
 urlresponse = urllib2.urlopen(urlrequest)
 # return url
 return urlresponse

这个是测试文件,因为读者没有测试环境,需要自己搭建或者找个网站测试:

#filename: test.py
from analogop import geturlopen
postd = {
 'usernum': '2011411111',
 'upw': '124569',
 'userip': '192.168.10.1',
 'token': 'xxx'
}
urlread = geturlopen('http://127.0.0.1:8000/login/', postd)
print urlread.read().decode('utf-8')
urlread = geturlopen('http://127.0.0.1:8000/chafen/', {})
print urlread.read().decode('utf-8')

更多关于Python相关内容可查看本站专题:《Python Socket编程技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
详解pyenv下使用python matplotlib模块的问题解决
Nov 29 Python
Python装饰器简单用法实例小结
Dec 03 Python
详解Python中pandas的安装操作说明(傻瓜版)
Apr 08 Python
Python获取命令实时输出-原样彩色输出并返回输出结果的示例
Jul 11 Python
Python 单例设计模式用法实例分析
Sep 23 Python
python 消除 futureWarning问题的解决
Dec 25 Python
python图形开发GUI库wxpython使用方法详解
Feb 14 Python
获取python运行输出的数据并解析存为dataFrame实例
Jul 07 Python
解决Python中导入自己写的类,被划红线,但不影响执行的问题
Jul 13 Python
Python字节单位转换(将字节转换为K M G T)
Mar 02 Python
Python破解极验滑动验证码详细步骤
May 21 Python
Python还能这么玩之用Python做个小游戏的外挂
Jun 04 Python
tensorflow 打印内存中的变量方法
Jul 30 #Python
Python实现的多叉树寻找最短路径算法示例
Jul 30 #Python
tensorflow: variable的值与variable.read_value()的值区别详解
Jul 30 #Python
Tensorflow 实现修改张量特定元素的值方法
Jul 30 #Python
python用BeautifulSoup库简单爬虫实例分析
Jul 30 #Python
对TensorFlow的assign赋值用法详解
Jul 30 #Python
Python双向循环链表实现方法分析
Jul 30 #Python
You might like
php.ini 中文版
2006/10/28 PHP
随时给自己贴的图片加文字的php代码
2007/03/08 PHP
求帮忙修改个php curl模拟post请求内容后并下载文件的解决思路
2015/09/20 PHP
php中输出json对象的值(实现方法)
2018/03/07 PHP
javascript支持firefox,ie7页面布局拖拽效果代码
2007/12/20 Javascript
Javascript优化技巧(文件瘦身篇)
2008/01/28 Javascript
XHTML下,JS浮动代码失效的问题
2009/11/12 Javascript
jQuery Selector选择器小结
2010/05/06 Javascript
jQuery EasyUI API 中文文档 - MenuButton菜单按钮使用介绍
2011/10/06 Javascript
Extjs显示从数据库取出时间转换JSON后的出现问题
2012/11/20 Javascript
JavaScript与DOM组合动态创建表格实例
2012/12/23 Javascript
JS控制文本框textarea输入字数限制的方法
2013/06/17 Javascript
JavaScript验证18位身份证号码最后一位正确性的实现代码
2014/08/07 Javascript
jquery实现Ctrl+Enter提交表单的方法
2015/07/21 Javascript
浅谈Javascript中Object与Function对象
2015/09/26 Javascript
javascript 中的console.log和弹出窗口alert
2016/08/30 Javascript
详解VUE中常用的几种import(模块、文件)引入方式
2018/07/03 Javascript
详解微信小程序调起键盘性能优化
2018/07/24 Javascript
Vue递归组件+Vuex开发树形组件Tree--递归组件的简单实现
2019/04/01 Javascript
详解如何写出一个利于扩展的vue路由配置
2019/05/16 Javascript
Vue触发input选取文件点击事件操作
2020/08/07 Javascript
python使用calendar输出指定年份全年日历的方法
2015/04/04 Python
python多线程方式执行多个bat代码
2016/06/07 Python
python导出chrome书签到markdown文件的实例代码
2017/12/27 Python
Pycharm2020最新激活码|永久激活(附最新激活码和插件的详细教程)
2020/09/29 Python
Pytorch之扩充tensor的操作
2021/03/04 Python
美国时尚女装在线:Missguided
2016/12/03 全球购物
竞选班长的演讲稿
2014/04/24 职场文书
关于热爱祖国的演讲稿
2014/05/04 职场文书
2014年个人师德工作总结
2014/12/04 职场文书
社会实践活动总结
2015/02/05 职场文书
党支部季度考核意见
2015/06/02 职场文书
外出学习心得体会范文
2016/01/18 职场文书
elementui的el-popover修改样式不生效的解决
2021/06/30 Javascript
默认网关不可用修复后过一会又不好使了解决方法
2022/04/08 数码科技
讨论nginx location 顺序问题
2022/05/30 Servers