Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
Python学习资料
Feb 08 Python
Python ORM框架SQLAlchemy学习笔记之关系映射实例
Jun 10 Python
Python中实现参数类型检查的简单方法
Apr 21 Python
Python批量按比例缩小图片脚本分享
May 21 Python
Django权限机制实现代码详解
Feb 05 Python
在PyCharm中批量查找及替换的方法
Jan 20 Python
python实现文件批量编码转换及注意事项
Oct 14 Python
如何基于python操作json文件获取内容
Dec 24 Python
Python切割图片成九宫格的示例代码
Mar 10 Python
浅谈Python中range与Numpy中arange的比较
Mar 11 Python
python3 中使用urllib问题以及urllib详解
Aug 03 Python
Python数据分析之pandas函数详解
Apr 21 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
使用 php4 加速 web 传输
2006/10/09 PHP
pw的一个放后门的方法分析
2007/10/08 PHP
PHP中使用unset销毁变量并内存释放问题
2012/07/05 PHP
深入理解ob_flush和flush的区别(ob_flush()与flush()使用方法)
2013/02/06 PHP
JavaScript 面向对象之命名空间
2010/05/04 Javascript
仿微博字符限制效果实现代码
2012/04/20 Javascript
js通过元素class名字获取元素集合的具体实现
2014/01/06 Javascript
元素绑定click点击事件方法
2015/06/08 Javascript
javascript新闻跑马灯实例代码
2020/07/29 Javascript
ES6新特性之模块Module用法详解
2017/04/01 Javascript
jQuery实现base64前台加密解密功能详解
2017/08/29 jQuery
JavaScript实现开关等效果
2017/09/08 Javascript
input 标签实现输入框带提示文字效果(两种方法)
2017/10/09 Javascript
vue如何引入sass全局变量
2018/06/28 Javascript
如何为你的JS项目添加智能提示与类型检查详解
2019/03/12 Javascript
TypeScript中使用getElementXXX()的示例代码
2019/09/12 Javascript
python绘图方法实例入门
2015/05/19 Python
详解pyqt5 动画在QThread线程中无法运行问题
2018/05/05 Python
使用python爬取抖音视频列表信息
2019/07/15 Python
python opencv将图片转为灰度图的方法示例
2019/07/31 Python
解决python 3 urllib 没有 urlencode 属性的问题
2019/08/22 Python
基于Django实现日志记录报错信息
2019/12/17 Python
如何定义TensorFlow输入节点
2020/01/23 Python
python实现IOU计算案例
2020/04/12 Python
canvas实现有递增动画的环形进度条的实现方法
2019/07/10 HTML / CSS
世界知名接发和假发品牌:Poze Hair
2017/03/08 全球购物
英国时尚和家居用品零售商:Matalan
2021/02/28 全球购物
医院实习介绍信
2014/01/12 职场文书
上党课的心得体会
2014/09/02 职场文书
党员批评与自我批评思想汇报(集锦)
2014/09/14 职场文书
学校领导四风问题整改措施思想汇报
2014/10/09 职场文书
2014三年级班主任工作总结
2014/12/05 职场文书
2014年度个人工作总结范文
2015/03/09 职场文书
班委竞选稿范文
2015/11/21 职场文书
MongoDB安装使用并实现Python操作数据库
2021/06/28 MongoDB
MySql子查询IN的执行和优化的实现
2021/08/02 MySQL