Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
详解Python中的多线程编程
Apr 09 Python
Python实现控制台进度条功能
Jan 04 Python
Python即时网络爬虫项目启动说明详解
Feb 23 Python
python实现周期方波信号频谱图
Jul 21 Python
Python rstrip()方法实例详解
Nov 11 Python
基于python if 判断选择结构的实例详解
May 06 Python
Python二维码生成识别实例详解
Jul 16 Python
使用django的ORM框架按月统计近一年内的数据方法
Jul 18 Python
python将图片转base64,实现前端显示
Jan 09 Python
Python字符串中删除特定字符的方法
Jan 15 Python
详解用Python爬虫获取百度企业信用中企业基本信息
Jul 02 Python
Python第三方库安装缓慢的解决方法
Feb 06 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
在PHP中实现Javascript的escape()函数代码
2010/08/08 PHP
PHP的autoload机制的实现解析
2012/09/15 PHP
PHP的curl实现get,post和cookie(实例介绍)
2013/06/17 PHP
php合并js请求的例子
2013/11/01 PHP
php 自定义错误日志实例详解
2016/11/12 PHP
利用php的ob缓存机制实现页面静态化方法
2017/07/09 PHP
php语法检查的方法总结
2019/01/21 PHP
纯CSS打造的导航菜单(附jquery版)
2010/08/07 Javascript
jquery根据属性和index来查找属性值并操作
2014/07/25 Javascript
javascript模拟post提交隐藏地址栏的参数
2014/09/03 Javascript
详解JavaScript ES6中的模板字符串
2015/07/28 Javascript
JavaScript实现横向滑出的多级菜单效果
2015/10/09 Javascript
bootstrap datepicker限定可选时间范围实现方法
2016/09/28 Javascript
jQuery 选择符详细介绍及整理
2016/12/02 Javascript
很棒的一组js图片轮播特效
2017/01/12 Javascript
JS变量中有var定义和无var定义的区别以及es6中let命令和const命令
2017/02/19 Javascript
JS正则表达式判断有效数实例代码
2017/03/13 Javascript
解决百度Echarts图表坐标轴越界的方法
2018/10/17 Javascript
nodejs微信开发之自动回复的实现
2019/03/17 NodeJs
JavaScript解析JSON数据示例
2019/07/16 Javascript
微信小程序onShareTimeline()实现分享朋友圈
2021/01/07 Javascript
Python发送email的3种方法
2015/04/28 Python
Python利用ansible分发处理任务
2015/08/04 Python
python使用flask与js进行前后台交互的例子
2019/07/19 Python
django 微信网页授权认证api的步骤详解
2019/07/30 Python
CSS3 icon font完全指南(CSS3 font 会取代icon图标)
2013/01/06 HTML / CSS
一款纯css3实现的鼠标经过按钮特效教程
2014/11/09 HTML / CSS
JBL加拿大官方商店:扬声器、耳机等
2020/10/23 全球购物
体育纪念品、亲笔签名的体育收藏品:Steiner Sports
2020/07/31 全球购物
某公司部分笔试题
2013/11/05 面试题
共产党员公开承诺书范文
2014/03/28 职场文书
学校安全责任书
2014/04/14 职场文书
2014年妇联工作总结
2014/11/21 职场文书
员工工作表扬信
2015/05/05 职场文书
解决python绘图使用subplots出现标题重叠的问题
2021/04/30 Python
PostgreSQL常用字符串分割函数整理汇总
2022/07/07 PostgreSQL