python3.7简单的爬虫实例详解


Posted in Python onJuly 08, 2019

python3.7简单的爬虫,具体代码如下所示:

#https://www.runoob.com/w3cnote/python-spider-intro.html

#Python 爬虫介绍

import urllib.parse
import urllib.request
from http import cookiejar
url = "http://www.baidu.com"
response1 = urllib.request.urlopen(url)
print("第一种方法")
#获取状态码,200表示成功
print(response1.getcode())
#获取网页内容的长度
print(str(response1.read()))
print(len(response1.read()))
print("第二种方法")
request = urllib.request.Request(url)
#模拟Mozilla浏览器进行爬虫
request.add_header("user-agent","Mozilla/5.0")
response2 = urllib.request.urlopen(request)
print(response2.getcode())
print(len(response2.read()))
print("第三种方法")
cookie = cookiejar.CookieJar()
#加入urllib2处理cookie的能力#
opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cookie))
urllib.request.install_opener(opener)
response3 = urllib.request.urlopen(url)
print(response3.getcode())
print(len(response3.read()))
print(cookie)
code: https://github.com/pascal19821003/python
path: python/study/tutorial/pachong/1.py

总结

以上所述是小编给大家介绍的python3.7简单的爬虫实例详解,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
详解python进行mp3格式判断
Dec 23 Python
Python实现判断一行代码是否为注释的方法
May 23 Python
78行Python代码实现现微信撤回消息功能
Jul 26 Python
详解python如何在django中为用户模型添加自定义权限
Oct 15 Python
Python基于mysql实现学生管理系统
Feb 21 Python
Python中断多重循环的思路总结
Oct 04 Python
Python3 无重复字符的最长子串的实现
Oct 08 Python
用openCV和Python 实现图片对比,并标识出不同点的方式
Dec 19 Python
Python Flask异步发送邮件实现方法解析
Aug 01 Python
基于Python爬取搜狐证券股票过程解析
Nov 18 Python
python中scrapy处理项目数据的实例分析
Nov 22 Python
Python基于unittest实现测试用例执行
Nov 25 Python
在python中画正态分布图像的实例
Jul 08 #Python
python实现beta分布概率密度函数的方法
Jul 08 #Python
python中pip的使用和修改下载源的方法
Jul 08 #Python
python绘制直方图和密度图的实例
Jul 08 #Python
搭建python django虚拟环境完整步骤详解
Jul 08 #Python
python中break、continue 、exit() 、pass终止循环的区别详解
Jul 08 #Python
33个Python爬虫项目实战(推荐)
Jul 08 #Python
You might like
举例详解PHP脚本的测试方法
2015/08/05 PHP
调试WordPress中定时任务的相关PHP脚本示例
2015/12/10 PHP
基于PHP实现数据分页显示功能
2016/05/26 PHP
php批量修改表结构实例
2017/05/24 PHP
PHP实现微信提现功能(微信商城)
2019/11/21 PHP
JavaScript入门教程 Cookies
2009/01/31 Javascript
基于jQuery的输入框无值自动显示指定数据的实现代码
2011/01/24 Javascript
javascript 判断字符串是否包含某字符串及indexOf使用示例
2013/10/18 Javascript
jquery 合并内容相同的单元格(示例代码)
2013/12/13 Javascript
JavaScript数组合并的多种方法
2016/05/22 Javascript
javascript基础练习之翻转字符串与回文
2017/02/20 Javascript
Vue的路由动态重定向和导航守卫实例
2018/03/17 Javascript
微信小程序实现文字跑马灯
2020/05/26 Javascript
bootstrap table列和表头对不齐的解决方法
2019/07/19 Javascript
使用localStorage替代cookie做本地存储
2019/09/25 Javascript
Vue-drag-resize 拖拽缩放插件的使用(简单示例)
2019/12/04 Javascript
浅谈vue 组件中的setInterval方法和window的不同
2020/07/30 Javascript
vue data变量相互赋值后被实时同步的解决步骤
2020/08/05 Javascript
[09:40]DAC2018 4.5 SOLO赛 MidOne vs Miracle
2018/04/06 DOTA
Python操作json数据的一个简单例子
2014/04/17 Python
在Python中使用sort()方法进行排序的简单教程
2015/05/21 Python
在python3.5中使用OpenCV的实例讲解
2018/04/02 Python
python获取交互式ssh shell的方法
2019/02/14 Python
Python3之不使用第三方变量,实现交换两个变量的值
2019/06/26 Python
解决Django no such table: django_session的问题
2020/04/07 Python
Python判断三段线能否构成三角形的代码
2020/04/12 Python
html5 figure和figcaption的使用方法
2018/09/10 HTML / CSS
德国家用电器购物网站:Premiumshop24
2019/08/22 全球购物
Java提供了哪些企业应用编程接口
2015/02/13 面试题
会计专业毕业生自我评价
2013/09/25 职场文书
党的群众路线教育实践活动方案
2014/10/31 职场文书
银行自荐信怎么写
2015/03/05 职场文书
2015年银行大堂经理工作总结
2015/04/24 职场文书
四年级作文之植物
2019/09/20 职场文书
Pygame Rect区域位置的使用(图文)
2021/11/17 Python
Python学习之异常中的finally使用详解
2022/03/16 Python