一个入门级python爬虫教程详解


Posted in Python onJanuary 27, 2021

前言

本文目的:根据本人的习惯与理解,用最简洁的表述,介绍爬虫的定义、组成部分、爬取流程,并讲解示例代码。

基础

爬虫的定义:定向抓取互联网内容(大部分为网页)、并进行自动化数据处理的程序。主要用于对松散的海量信息进行收集和结构化处理,为数据分析和挖掘提供原材料。

今日t条就是一只巨大的“爬虫”。

爬虫由URL库、采集器、解析器组成。

流程

如果待爬取的url库不为空,采集器会自动爬取相关内容,并将结果给到解析器,解析器提取目标内容后进行写入文件或入库等操作。

一个入门级python爬虫教程详解

代码

第一步:写一个采集器

如下是一个比较简单的采集器函数。需要用到requests库。
首先,构造一个http的header,里面有浏览器和操作系统等信息。如果没有这个伪造的header,可能会被目标网站的WAF等防护设备识别为机器代码并干掉。

然后,用requests库的get方法获取url内容。如果http响应代码是200 ok,说明页面访问正常,将该函数返回值设置为文本形式的html代码内容。

如果响应代码不是200 ok,说明页面不能正常访问,将函数返回值设置为特殊字符串或代码。

import requests

def get_page(url):
	headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36'}
	response = requests.get(url, headers= headers)
	if response.status_code == 200:
	  return response.text
	else:
		return 'GET HTML ERROR !'

第二步:解析器

解析器的作用是对采集器返回的html代码进行过滤筛选,提取需要的内容。
作为一个14年忠实用户,当然要用豆瓣举个栗子 _

我们计划爬取豆瓣排名TOP250电影的8个参数:排名、电影url链接、电影名称、导演、上映年份、国家、影片类型、评分。整理成字典并写入文本文件。

待爬取的页面如下,每个页面包括25部电影,共计10个页面。

一个入门级python爬虫教程详解

在这里,必须要表扬豆瓣的前端工程师们,html标签排版非常工整具有层次,非常便于信息提取。

下面是“肖申克的救赎”所对应的html代码:(需要提取的8个参数用红线标注)

一个入门级python爬虫教程详解

根据上面的html编写解析器函数,提取8个字段。该函数返回值是一个可迭代的序列。
我个人喜欢用re(正则表达式)提取内容。8个(.*?)分别对应需要提取的字段。

import re

def parse_page(html):
	pattern = re.compile('<em class="">(.*?)</em>.*?<a href="(.*?)" rel="external nofollow" rel="external nofollow" >.*?<span class="title">(.*?)</span>.*?<div class="bd">.*?<p class="">(.*?) .*?<br>(.*?) / (.*?) / (.*?)</p>.*?<span class="rating_num".*?"v:average">(.*?)</span>' , re.S)
	items = re.findall(pattern , html)
	for item in items:
		yield {
		  'rank': item[0],
		  'href': item[1],
		  'name': item[2],
		  'director': item[3].strip()[4:],
		  'year': item[4].strip(),
		  'country': item[5].strip(),
		  'style': item[6].strip(),
		  'score': item[7].strip()
		}

提取后的内容如下:

一个入门级python爬虫教程详解

整理成完整的代码:(暂不考虑容错)

import requests
import re
import json

def get_page(url):
	#采集器函数
	headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36'}
	response = requests.get(url, headers= headers)
	if response.status_code == 200:
	  return response.text
	else:
		return 'GET HTML ERROR ! '


def parse_page(html):
	#解析器函数
	pattern = re.compile('<em class="">(.*?)</em>.*?<a href="(.*?)" rel="external nofollow" rel="external nofollow" >.*?<span class="title">(.*?)</span>.*?<div class="bd">.*?<p class="">(.*?) .*?<br>(.*?) / (.*?) / (.*?)</p>.*?<span class="rating_num".*?"v:average">(.*?)</span>' , re.S)
	items = re.findall(pattern , html)
	for item in items:
		yield {
		  'rank': item[0],
		  'href': item[1],
		  'name': item[2],
		  'director': item[3].strip()[4:],
		  'year': item[4].strip(),
		  'country': item[5].strip(),
		  'style': item[6].strip(),
		  'score': item[7].strip()
		}


def write_to_file(content):
	#写入文件函数
	with open('result.txt' , 'a' , encoding = 'utf-8') as file:
		file.write(json.dumps(content , ensure_ascii = False) + '\n')


if __name__== "__main__":
	# 主程序
	for i in range(10):
		url= 'https://movie.douban.com/top250?start='+ str(i*25)+ '&filter'
		for res in parse_page(get_page(url)):
			write_to_file(res)

非常简洁,非常符合python简单、高效的特点。

说明:

需要掌握待爬取url的规律,才能利用for循环等操作自动化处理。
前25部影片的url是https://movie.douban.com/top250?start=0&filter,第26-50部影片url是https://movie.douban.com/top250?start=25&filter。规律就在start参数,将start依次设置为0、25、50、75。。。225,就能获取所有页面的链接。parse_page函数的返回值是一个可迭代序列,可以理解为字典的集合。运行完成后,会在程序同目录生成result.txt文件。内容如下:

一个入门级python爬虫教程详解 

到此这篇关于一个入门级python爬虫教程详解的文章就介绍到这了,更多相关python爬虫入门教程内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python解析xml文件操作实例
Oct 05 Python
Python字典简介以及用法详解
Nov 15 Python
Mac 上切换Python多版本
Jun 17 Python
[原创]python爬虫(入门教程、视频教程)
Jan 08 Python
Python中join函数简单代码示例
Jan 09 Python
Python解决走迷宫问题算法示例
Jul 27 Python
在Python中定义一个常量的方法
Nov 10 Python
python return逻辑判断表达式实现解析
Dec 02 Python
解决pytorch报错:AssertionError: Invalid device id的问题
Jan 10 Python
利用Python脚本批量生成SQL语句
Mar 04 Python
python3用urllib抓取贴吧邮箱和QQ实例
Mar 10 Python
python 遍历磁盘目录的三种方法
Apr 02 Python
python+selenium爬取微博热搜存入Mysql的实现方法
Jan 27 #Python
Python实现网络聊天室的示例代码(支持多人聊天与私聊)
Jan 27 #Python
基于Python的接口自动化unittest测试框架和ddt数据驱动详解
Jan 27 #Python
python实现scrapy爬虫每天定时抓取数据的示例代码
Jan 27 #Python
使用bandit对目标python代码进行安全函数扫描的案例分析
Jan 27 #Python
用Python实现定时备份Mongodb数据并上传到FTP服务器
Jan 27 #Python
python re.match()用法相关示例
Jan 27 #Python
You might like
phpStudy2016 配置多个域名期间遇到的问题小结
2017/10/19 PHP
PHP生成图表pChart的示例解析
2020/07/31 PHP
Jquery Ajax学习实例6 向WebService发出请求,返回DataSet(XML) 异步调用
2010/03/18 Javascript
javascript定义变量时加var与不加var的区别
2014/12/22 Javascript
js如何判断访问是来自搜索引擎(蜘蛛人)还是直接访问
2015/09/14 Javascript
详解JavaScript编程中正则表达式的使用
2015/10/25 Javascript
JS实现1000以内被3或5整除的数字之和
2016/02/18 Javascript
js实现分割上传大文件
2016/03/09 Javascript
Vue.js鼠标悬浮更换图片功能
2017/05/17 Javascript
浅谈Vuex的状态管理(全家桶)
2017/11/04 Javascript
Vue中使用Sortable的示例代码
2018/04/07 Javascript
从0到1搭建Element的后台框架的方法步骤
2019/04/10 Javascript
Vue源码探究之虚拟节点的实现
2019/04/17 Javascript
layui实现数据表格table分页功能(ajax异步)
2019/07/27 Javascript
解决layui的radio属性或别的属性没显示出来的问题
2019/09/26 Javascript
js实现图片上传到服务器和回显
2020/01/19 Javascript
[04:02]DOTA2上海特锦赛小组赛第二日recap精彩回顾
2016/02/28 DOTA
python监控网站运行异常并发送邮件的方法
2015/03/13 Python
浅谈python 四种数值类型(int,long,float,complex)
2016/06/08 Python
详解K-means算法在Python中的实现
2017/12/05 Python
python通过paramiko复制远程文件及文件目录到本地
2019/04/30 Python
keras模型保存为tensorflow的二进制模型方式
2020/05/25 Python
Python类及获取对象属性方法解析
2020/06/15 Python
如何完美的建立一个python项目
2020/10/09 Python
菲律宾酒店预订网站:Hotels.com菲律宾
2017/07/12 全球购物
爱普生美国官网:Epson美国
2018/11/05 全球购物
保加利亚运动鞋购物网站:SneakerStudio.bg
2020/12/23 全球购物
会计自我鉴定
2014/02/04 职场文书
四年级语文教学反思
2014/02/05 职场文书
产品质量保证书
2014/04/29 职场文书
行政管理专业求职信
2014/07/06 职场文书
务虚会发言材料
2014/12/25 职场文书
小学教师师德师风承诺书
2015/04/28 职场文书
如何利用js在两个html窗口间通信
2021/04/27 Javascript
教你使用TensorFlow2识别验证码
2021/06/11 Python
vue3.0 数字翻牌组件的使用方法详解
2022/04/20 Vue.js