深入理解Python爬虫代理池服务


Posted in Python onFebruary 28, 2018

在公司做分布式深网爬虫,搭建了一套稳定的代理池服务,为上千个爬虫提供有效的代理,保证各个爬虫拿到的都是对应网站有效的代理IP,从而保证爬虫快速稳定的运行,当然在公司做的东西不能开源出来。不过呢,闲暇时间手痒,所以就想利用一些免费的资源搞一个简单的代理池服务。

1、问题

代理IP从何而来?

刚自学爬虫的时候没有代理IP就去西刺、快代理之类有免费代理的网站去爬,还是有个别代理能用。当然,如果你有更好的代理接口也可以自己接入。

免费代理的采集也很简单,无非就是:访问页面页面 —> 正则/xpath提取 —> 保存

如何保证代理质量?

可以肯定免费的代理IP大部分都是不能用的,不然别人为什么还提供付费的(不过事实是很多代理商的付费IP也不稳定,也有很多是不能用)。所以采集回来的代理IP不能直接使用,可以写检测程序不断的去用这些代理访问一个稳定的网站,看是否可以正常使用。这个过程可以使用多线程或异步的方式,因为检测代理是个很慢的过程。

采集回来的代理如何存储?

这里不得不推荐一个高性能支持多种数据结构的NoSQL数据库SSDB,用于代理Redis。支持队列、hash、set、k-v对,支持T级别数据。是做分布式爬虫很好中间存储工具。

如何让爬虫更简单的使用这些代理?

答案肯定是做成服务咯,python有这么多的web框架,随便拿一个来写个api供爬虫调用。这样有很多好处,比如:当爬虫发现代理不能使用可以主动通过api去delete代理IP,当爬虫发现代理池IP不够用时可以主动去refresh代理池。这样比检测程序更加靠谱。

2、代理池设计

代理池由四部分组成:

ProxyGetter:

代理获取接口,目前有5个免费代理源,每调用一次就会抓取这个5个网站的最新代理放入DB,可自行添加额外的代理获取接口;

DB:

用于存放代理IP,现在暂时只支持SSDB。至于为什么选择SSDB,大家可以参考这篇文章,个人觉得SSDB是个不错的Redis替代方案,如果你没有用过SSDB,安装起来也很简单,可以参考这里;

Schedule:

计划任务用户定时去检测DB中的代理可用性,删除不可用的代理。同时也会主动通过ProxyGetter去获取最新代理放入DB;

ProxyApi:

代理池的外部接口,由于现在这么代理池功能比较简单,花两个小时看了下Flask,愉快的决定用Flask搞定。功能是给爬虫提供get/delete/refresh等接口,方便爬虫直接使用。

深入理解Python爬虫代理池服务

3、代码模块

Python中高层次的数据结构,动态类型和动态绑定,使得它非常适合于快速应用开发,也适合于作为胶水语言连接已有的软件部件。用Python来搞这个代理IP池也很简单,代码分为6个模块:

Api:

api接口相关代码,目前api是由Flask实现,代码也非常简单。客户端请求传给Flask,Flask调用ProxyManager中的实现,包括get/delete/refresh/get_all;

DB:

数据库相关代码,目前数据库是采用SSDB。代码用工厂模式实现,方便日后扩展其他类型数据库;

Manager:

get/delete/refresh/get_all等接口的具体实现类,目前代理池只负责管理proxy,日后可能会有更多功能,比如代理和爬虫的绑定,代理和账号的绑定等等;

ProxyGetter:

代理获取的相关代码,目前抓取了快代理、代理66、有代理、西刺代理、guobanjia这个五个网站的免费代理,经测试这个5个网站每天更新的可用代理只有六七十个,当然也支持自己扩展代理接口;

Schedule:

定时任务相关代码,现在只是实现定时去刷新代码,并验证可用代理,采用多进程方式;

Util:

存放一些公共的模块方法或函数,包含GetConfig:读取配置文件config.ini的类,ConfigParse: 集成重写ConfigParser的类,使其对大小写敏感, Singleton:实现单例,LazyProperty:实现类属性惰性计算。等等;

其他文件:

配置文件:Config.ini,数据库配置和代理获取接口配置,可以在GetFreeProxy中添加新的代理获取方法,并在Config.ini中注册即可使用;

4、安装

下载代码:

Python

git clone git@github.com:jhao104/proxy_pool.git
或者直接到https://github.com/jhao104/proxy_pool 下载zip文件
git clone git@github.com:jhao104/proxy_pool.git
或者直接到https://github.com/jhao104/proxy_pool 下载zip文件

安装依赖:

Python

pip install -r requirements.txt
pip install -r requirements.txt

启动:

Python

需要分别启动定时任务和api
到Config.ini中配置你的SSDB
到Schedule目录下:
>>>python ProxyRefreshSchedule.py
到Api目录下:
>>>python ProxyApi.py
需要分别启动定时任务和api
到Config.ini中配置你的SSDB
到Schedule目录下:
>>>python ProxyRefreshSchedule.py
到Api目录下:
>>>python ProxyApi.py

5、使用

定时任务启动后,会通过代理获取方法fetch所有代理放入数据库并验证。此后默认每20分钟会重复执行一次。定时任务启动大概一两分钟后,便可在SSDB中看到刷新出来的可用的代理:

深入理解Python爬虫代理池服务

useful_proxy

启动ProxyApi.py后即可在浏览器中使用接口获取代理,一下是浏览器中的截图:

index页面:

深入理解Python爬虫代理池服务

get页面:

深入理解Python爬虫代理池服务

get_all页面:

深入理解Python爬虫代理池服务

爬虫中使用,如果要在爬虫代码中使用的话, 可以将此api封装成函数直接使用,例如:

Python

import requests
def get_proxy():
 return requests.get("http://127.0.0.1:5000/get/").content
def delete_proxy(proxy):
 requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))
# your spider code
def spider():
 # ....
 requests.get('https://www.example.com', proxies={"http": "http://{}".format(get_proxy)})
 # ....
import requests
def get_proxy():
 return requests.get("http://127.0.0.1:5000/get/").content
def delete_proxy(proxy):
 requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))
# your spider code
def spider():
 # ....
 requests.get('https://www.example.com', proxies={"http": "http://{}".format(get_proxy)})
 # ....

6、最后

时间仓促,功能和代码都比较简陋,以后有时间再改进。喜欢的在github上给个star。感谢!

github项目地址:https://github.com/jhao104/proxy_pool

总结

以上所述是小编给大家介绍的Python爬虫代理池服务,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
python使用paramiko模块实现ssh远程登陆上传文件并执行
Jan 27 Python
Python FTP操作类代码分享
May 13 Python
django manage.py扩展自定义命令方法
May 27 Python
对numpy中的transpose和swapaxes函数详解
Aug 02 Python
Django-Rest-Framework 权限管理源码浅析(小结)
Nov 12 Python
python实现全盘扫描搜索功能的方法
Feb 14 Python
windows下numpy下载与安装图文教程
Apr 02 Python
基于Python的PIL库学习详解
May 10 Python
pytorch 指定gpu训练与多gpu并行训练示例
Dec 31 Python
浅谈Python3实现两个矩形的交并比(IoU)
Jan 18 Python
python中Ansible模块的Playbook的具体使用
May 28 Python
Python极值整数的边界探讨分析
Sep 15 Python
python实现装饰器、描述符
Feb 28 #Python
python安装教程
Feb 28 #Python
深入理解Python 关于supper 的 用法和原理
Feb 28 #Python
TensorFlow实现RNN循环神经网络
Feb 28 #Python
python使用TensorFlow进行图像处理的方法
Feb 28 #Python
使用Python搭建虚拟环境的配置方法
Feb 28 #Python
Python OpenCV获取视频的方法
Feb 28 #Python
You might like
Mysql的GROUP_CONCAT()函数使用方法
2008/03/28 PHP
Yii框架表单模型和验证用法
2016/05/20 PHP
php 基础函数
2017/02/10 PHP
php-fpm开启状态统计的方法详解
2017/06/23 PHP
PHP xpath()函数讲解
2019/02/11 PHP
从零开始学习jQuery (三) 管理jQuery包装集
2011/02/23 Javascript
javascript判断ie浏览器6/7版本加载不同样式表的实现代码
2011/12/26 Javascript
JS的事件绑定深入认识
2014/06/26 Javascript
Jquery 实现grid绑定模板
2015/01/28 Javascript
JS+CSS实现TreeMenu二级树形菜单完整实例
2015/09/18 Javascript
基于Bootstrap实现下拉菜单项和表单导航条(两个菜单项,一个下拉菜单和登录表单导航条)
2016/07/22 Javascript
在Docker快速部署Node.js应用的详细步骤
2016/09/02 Javascript
javascript函数中的3个高级技巧
2016/09/22 Javascript
Javascript 实现全屏滚动实例代码
2016/12/31 Javascript
JS实现iframe自适应高度的方法示例
2017/01/07 Javascript
Angularjs上传图片实例详解
2017/08/06 Javascript
React+react-dropzone+node.js实现图片上传的示例代码
2017/08/23 Javascript
微信小程序绑定手机号获取验证码功能
2019/10/22 Javascript
[04:29]2014DOTA2国际邀请赛 主赛事第三日TOPPLAY
2014/07/21 DOTA
Python实现多线程下载文件的代码实例
2014/06/01 Python
python将文本转换成图片输出的方法
2015/04/28 Python
Python3指定路径寻找符合匹配模式文件
2015/05/22 Python
对python中raw_input()和input()的用法详解
2018/04/22 Python
python中的列表与元组的使用
2019/08/08 Python
pandas 空数据处理方法详解
2019/11/02 Python
Python爬虫库requests获取响应内容、响应状态码、响应头
2020/01/25 Python
美国彩妆品牌:Coastal Scents
2017/04/01 全球购物
美国运动鞋和运动服零售商:Footaction
2017/04/07 全球购物
请说出这段代码执行后a和b的值分别是多少
2015/03/28 面试题
Java面试题:为什么要用Java
2012/05/11 面试题
四年级数学教学反思
2014/02/02 职场文书
小学生学习雷锋倡议书
2014/05/15 职场文书
副总经理任命书
2014/06/05 职场文书
教师个人读书活动总结
2014/07/08 职场文书
MySql学习笔记之事务隔离级别详解
2021/05/12 MySQL
GO语言异常处理分析 err接口及defer延迟
2022/04/14 Golang