Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
基于python编写的微博应用
Oct 17 Python
python与php实现分割文件代码
Mar 06 Python
Python并发编程协程(Coroutine)之Gevent详解
Dec 27 Python
学习Python selenium自动化网页抓取器
Jan 20 Python
Python Selenium Cookie 绕过验证码实现登录示例代码
Apr 10 Python
对pandas中iloc,loc取数据差别及按条件取值的方法详解
Nov 06 Python
利用nohup来开启python文件的方法
Jan 14 Python
Python 音频生成器的实现示例
Dec 24 Python
python的help函数如何使用
Jun 11 Python
keras实现图像预处理并生成一个generator的案例
Jun 17 Python
解决tensorflow 释放图,删除变量问题
Jun 23 Python
python3实现无权最短路径的方法
May 12 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
php文档更新介绍
2011/07/22 PHP
php数据库备份还原类分享
2014/03/20 PHP
PHP基于数组实现的分页函数实例
2014/08/20 PHP
php输出控制函数和输出函数生成静态页面
2019/06/27 PHP
JavaScript常用对象的方法和属性小结
2012/01/24 Javascript
jquery validate添加自定义验证规则(验证邮箱 邮政编码)
2013/12/04 Javascript
javascript处理a标签超链接默认事件的方法
2015/06/29 Javascript
原生js和jQuery实现淡入淡出轮播效果
2015/12/25 Javascript
酷炫jQuery全屏3D焦点图动画效果
2016/03/22 Javascript
AngularJS入门(用ng-repeat指令实现循环输出
2016/05/05 Javascript
js实现可旋转的立方体模型
2016/10/16 Javascript
Vue.js:使用Vue-Router 2实现路由功能介绍
2017/02/22 Javascript
jQuery实现jQuery-form.js实现异步上传文件
2017/04/28 jQuery
JavaScript模块模式实例详解
2017/10/25 Javascript
Node Puppeteer图像识别实现百度指数爬虫的示例
2018/02/22 Javascript
手把手教你使用TypeScript开发Node.js应用
2019/05/06 Javascript
基于vue如何发布一个npm包的方法步骤
2019/05/15 Javascript
原生js实现随机点餐效果
2019/12/10 Javascript
Python基于Pymssql模块实现连接SQL Server数据库的方法详解
2017/07/20 Python
Python字典创建 遍历 添加等实用基础操作技巧
2018/09/13 Python
python3+selenium自动化测试框架详解
2019/03/17 Python
Python datetime包函数简单介绍
2019/08/28 Python
Django框架静态文件处理、中间件、上传文件操作实例详解
2020/02/29 Python
python3格式化字符串 f-string的高级用法(推荐)
2020/03/04 Python
python+adb命令实现自动刷视频脚本案例
2020/04/23 Python
python中可以声明变量类型吗
2020/06/18 Python
python 监控服务器是否有人远程登录(详细思路+代码)
2020/12/18 Python
html5 sessionStorage会话存储_动力节点Java学院整理
2017/07/06 HTML / CSS
全球最大的生存食品、水和装备专用在线市场:BePrepared.com
2020/01/02 全球购物
既然说Ruby中一切都是对象,那么Ruby中类也是对象吗
2013/01/26 面试题
大学生个人自荐信
2014/02/24 职场文书
弘扬焦裕禄精神走群众路线思想汇报
2014/09/12 职场文书
幼儿教师自我剖析材料
2014/09/29 职场文书
安全生产工作汇报材料
2014/10/28 职场文书
2014年基建工作总结
2014/12/12 职场文书
使用HTML+Css+transform实现3D导航栏的示例代码
2021/03/31 HTML / CSS