Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
python批量下载图片的三种方法
Apr 22 Python
使用Python的内建模块collections的教程
Apr 28 Python
Python爬虫抓取手机APP的传输数据
Jan 22 Python
Python读取文件内容的三种常用方式及效率比较
Oct 07 Python
深入理解Python中的super()方法
Nov 20 Python
python中requests和https使用简单示例
Jan 18 Python
为何人工智能(AI)首选Python?读完这篇文章你就知道了(推荐)
Apr 06 Python
pytorch载入预训练模型后,实现训练指定层
Jan 06 Python
Python各种扩展名区别点整理
Feb 27 Python
Python实现电视里的5毛特效实例代码详解
May 15 Python
pytest配置文件pytest.ini的详细使用
Apr 17 Python
Python 多线程处理任务实例
Nov 07 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
php中判断文件空目录是否有读写权限的函数代码
2012/08/07 PHP
PHP生成器简单实例
2015/05/13 PHP
thinkPHP自动验证、自动添加及表单错误问题分析
2016/10/17 PHP
php中的抽象方法和抽象类
2017/02/14 PHP
php显示页码分页类的封装
2017/06/08 PHP
PHP实现APP微信支付的实例讲解
2018/02/10 PHP
通过PHP设置BugFree获取邮箱通知
2019/04/25 PHP
laravel 5.3 单用户登录简单实现方法
2019/10/14 PHP
扩展String功能方法
2006/09/22 Javascript
jQuery select的操作实现代码
2009/05/06 Javascript
javascript Window及document对象详细整理
2011/01/12 Javascript
超级有用的13个基于jQuery的内容滚动插件和教程
2011/07/31 Javascript
Js 时间间隔计算的函数(间隔天数)
2011/11/15 Javascript
javascript打印大全(打印页面设置/打印预览代码)
2013/03/29 Javascript
Extjs 继承Ext.data.Store不起作用原因分析及解决
2013/04/15 Javascript
浅析JavaScript中的常用算法与函数
2013/11/21 Javascript
JavaScript+CSS控制打印格式示例介绍
2014/01/07 Javascript
jQuery实用密码强度检测
2017/03/02 Javascript
AngularJS实现图片上传和预览功能的方法分析
2017/11/08 Javascript
Vue中使用vee-validate表单验证的方法
2018/05/09 Javascript
Django+Vue跨域环境配置详解
2018/07/06 Javascript
vue移动端的左右滑动事件详解
2020/06/17 Javascript
vue style width a href动态拼接问题的解决
2020/08/07 Javascript
JS代码实现页面切换效果
2021/01/10 Javascript
django+js+ajax实现刷新页面的方法
2017/05/22 Python
python3写爬取B站视频弹幕功能
2017/12/22 Python
python2.7无法使用pip的解决方法(安装easy_install)
2018/04/03 Python
Django配置celery(非djcelery)执行异步任务和定时任务
2018/07/16 Python
python 动态渲染 mysql 配置文件的示例
2020/11/20 Python
检测浏览器对HTML5和CSS3支持度的方法
2015/06/25 HTML / CSS
伦敦剧院及景点门票:Encore Tickets
2018/07/01 全球购物
英国Boots旗下太阳镜网站:Boots Designer Sunglasses
2018/07/07 全球购物
巾帼标兵事迹材料
2014/12/26 职场文书
学风建设主题班会
2015/08/17 职场文书
大学生创业计划书
2019/06/24 职场文书
MySQL中的布尔值,怎么存储false或true
2021/06/04 MySQL