Python urllib.request对象案例解析


Posted in Python onMay 11, 2020

刚刚接触爬虫,基础的东西得时时回顾才行,这么全面的帖子无论如何也得厚着脸皮转过来啊!

什么是 Urllib 库?

urllib 库 是 Python 内置的 HTTP 请求库。urllib 模块提供的上层接口,使访问 www 和 ftp 上的数据就像访问本地文件一样。

有以下几种模块:

1.urllib.request 请求模块

2. urllib.error 异常处理模块

3. urllib.parse url 解析模块

4. urllib.robotparser robots.txt 解析模块

Urllib 库下的几种模块基本使用如下:

urllib.request

关于 urllib.request: urllib.request 模块提供了最基本的构造 HTTP (或其他协议如 FTP)请求的方法,利用它可以模拟浏览器的一个请求发起过程。利用不同的协议去获取 URL 信息。它的某些接口能够处理基础认证 ( Basic Authenticaton) 、redirections (HTTP 重定向)、 Cookies (浏览器 Cookies)等情况。而这些接口是由 handlers 和 openers 对象提供的。

1.常用的方法有

  • read()==读取文件内容

  • geturl()==获取请求url

  • getheaders()==获取http请求头信息

  • getcode()==获取状态码

  • readlines()==获取一行

2.案例

#coding=utf-8
#import urllib.request
#=========response方法使用
#read()==读取文件内容
#geturl()==获取请求url
#getheaders()==获取http请求头信息
#getcode()==获取状态码
#readlines()==获取一行
#url="http://www.baidu.com";
#response = urllib.request.urlopen(url);
#=====案例1
# str = response.read().decode();#这样通过decode转换为utf8
# with open("baidu.html","w",encoding="utf8") as fp:
#   fp.write(str);
#=====案例2通过字节流写=默认通过read读取的是字节流
# with open("bai.html","wb") as fp:
#   fp.write(response.read()); 
#==使用字节流读取存图片
# image_url='https://ss3.bdstatic.com/70cFv8Sh_Q1YnxGkpoWK1HF6hhy/it/u=3772530225,1800402028&fm=26&gp=0.jpg';
# response = urllib.request.urlopen(image_url);
# with open("mv.jpg",'wb') as fp:
#   fp.write(response.read());
#案例3==使用内置函数读取图片
#image_url='https://ss3.bdstatic.com/70cFv8Sh_Q1YnxGkpoWK1HF6hhy/it/u=3772530225,1800402028&fm=26&gp=0.jpg';
#urllib.request.urlretrieve(image_url,"chun.jpg");

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python的迭代器和生成器
Jul 29 Python
python基于twisted框架编写简单聊天室
Jan 02 Python
python主线程捕获子线程的方法
Jun 17 Python
python爬取个性签名的方法
Jun 17 Python
Python编程深度学习计算库之numpy
Dec 28 Python
python绘制地震散点图
Jun 18 Python
pyqt5使用按钮进行界面的跳转方法
Jun 19 Python
如何利用Python开发一个简单的猜数字游戏
Sep 22 Python
pytorch sampler对数据进行采样的实现
Dec 31 Python
Python生成词云的实现代码
Jan 14 Python
解决flask接口返回的内容中文乱码的问题
Apr 03 Python
pd.DataFrame中的几种索引变换的实现
Jun 16 Python
python将dict中的unicode打印成中文实例
May 11 #Python
ansible-playbook实现自动部署KVM及安装python3的详细教程
May 11 #Python
Python转换字典成为对象,可以用"."方式访问对象属性实例
May 11 #Python
Python3自定义json逐层解析器代码
May 11 #Python
Python3自定义http/https请求拦截mitmproxy脚本实例
May 11 #Python
Python 找出出现次数超过数组长度一半的元素实例
May 11 #Python
Pycharm如何导入python文件及解决报错问题
May 10 #Python
You might like
使用Sphinx对索引进行搜索
2013/06/25 PHP
php递归删除目录下的文件但保留的实例分享
2014/05/10 PHP
PHP执行Curl时报错提示CURL ERROR: Recv failure: Connection reset by peer的解决方法
2014/06/26 PHP
Smarty模板引擎缓存机制详解
2016/05/23 PHP
php 使用 __call实现重载功能示例
2019/11/18 PHP
国外大牛IE版本检测!现在IE都到9了,IE检测代码
2012/01/04 Javascript
javascript 实现 秒杀,团购 倒计时展示的记录 分享
2013/07/12 Javascript
jQuery之DOM对象和jQuery对象的转换与区别分析
2015/01/08 Javascript
nodejs创建web服务器之hello world程序
2015/08/20 NodeJs
原生JS实现仿淘宝网左侧商品分类菜单效果代码
2015/09/10 Javascript
原生JS实现-星级评分系统的简单实例
2016/08/21 Javascript
Vuex之理解Getters的用法实例
2017/04/19 Javascript
vue过渡和animate.css结合使用详解
2017/06/14 Javascript
基于javascript 显式转换与隐式转换(详解)
2017/12/15 Javascript
微信小程序利用canvas 绘制幸运大转盘功能
2018/07/06 Javascript
Vue 2.0 中依赖注入 provide/inject组合实战
2019/06/20 Javascript
详解微信小程序图片地扯转base64解决方案
2019/08/18 Javascript
解决vuex数据页面刷新后初始化操作
2020/07/26 Javascript
python self,cls,decorator的理解
2009/07/13 Python
用python + openpyxl处理excel2007文档思路以及心得
2014/07/14 Python
Python基于lxml模块解析html获取页面内所有叶子节点xpath路径功能示例
2018/05/16 Python
[原创]Python入门教程5. 字典基本操作【定义、运算、常用函数】
2018/11/01 Python
python3+django2开发一个简单的人员管理系统过程详解
2019/07/23 Python
利用python在大量数据文件下删除某一行的例子
2019/08/21 Python
使用matlab 判断两个矩阵是否相等的实例
2020/05/11 Python
Python执行时间的几种计算方法
2020/07/31 Python
Ted Baker英国官网:男士和女士服装及配件
2017/03/13 全球购物
中学生期末评语
2014/02/03 职场文书
材料员岗位职责
2014/03/13 职场文书
硕士生找工作求职信
2014/07/05 职场文书
优秀团员事迹材料1000字
2014/08/20 职场文书
清明节主题班会
2015/08/14 职场文书
创业计划书之淘宝网店
2019/10/08 职场文书
导游词之苏州阳澄湖
2019/11/15 职场文书
pycharm安装深度学习pytorch的d2l包失败问题解决
2022/03/25 Python
React更新渲染原理深入分析
2022/12/24 Javascript