深入理解Python爬虫代理池服务


Posted in Python onFebruary 28, 2018

在公司做分布式深网爬虫,搭建了一套稳定的代理池服务,为上千个爬虫提供有效的代理,保证各个爬虫拿到的都是对应网站有效的代理IP,从而保证爬虫快速稳定的运行,当然在公司做的东西不能开源出来。不过呢,闲暇时间手痒,所以就想利用一些免费的资源搞一个简单的代理池服务。

1、问题

代理IP从何而来?

刚自学爬虫的时候没有代理IP就去西刺、快代理之类有免费代理的网站去爬,还是有个别代理能用。当然,如果你有更好的代理接口也可以自己接入。

免费代理的采集也很简单,无非就是:访问页面页面 —> 正则/xpath提取 —> 保存

如何保证代理质量?

可以肯定免费的代理IP大部分都是不能用的,不然别人为什么还提供付费的(不过事实是很多代理商的付费IP也不稳定,也有很多是不能用)。所以采集回来的代理IP不能直接使用,可以写检测程序不断的去用这些代理访问一个稳定的网站,看是否可以正常使用。这个过程可以使用多线程或异步的方式,因为检测代理是个很慢的过程。

采集回来的代理如何存储?

这里不得不推荐一个高性能支持多种数据结构的NoSQL数据库SSDB,用于代理Redis。支持队列、hash、set、k-v对,支持T级别数据。是做分布式爬虫很好中间存储工具。

如何让爬虫更简单的使用这些代理?

答案肯定是做成服务咯,python有这么多的web框架,随便拿一个来写个api供爬虫调用。这样有很多好处,比如:当爬虫发现代理不能使用可以主动通过api去delete代理IP,当爬虫发现代理池IP不够用时可以主动去refresh代理池。这样比检测程序更加靠谱。

2、代理池设计

代理池由四部分组成:

ProxyGetter:

代理获取接口,目前有5个免费代理源,每调用一次就会抓取这个5个网站的最新代理放入DB,可自行添加额外的代理获取接口;

DB:

用于存放代理IP,现在暂时只支持SSDB。至于为什么选择SSDB,大家可以参考这篇文章,个人觉得SSDB是个不错的Redis替代方案,如果你没有用过SSDB,安装起来也很简单,可以参考这里;

Schedule:

计划任务用户定时去检测DB中的代理可用性,删除不可用的代理。同时也会主动通过ProxyGetter去获取最新代理放入DB;

ProxyApi:

代理池的外部接口,由于现在这么代理池功能比较简单,花两个小时看了下Flask,愉快的决定用Flask搞定。功能是给爬虫提供get/delete/refresh等接口,方便爬虫直接使用。

深入理解Python爬虫代理池服务

3、代码模块

Python中高层次的数据结构,动态类型和动态绑定,使得它非常适合于快速应用开发,也适合于作为胶水语言连接已有的软件部件。用Python来搞这个代理IP池也很简单,代码分为6个模块:

Api:

api接口相关代码,目前api是由Flask实现,代码也非常简单。客户端请求传给Flask,Flask调用ProxyManager中的实现,包括get/delete/refresh/get_all;

DB:

数据库相关代码,目前数据库是采用SSDB。代码用工厂模式实现,方便日后扩展其他类型数据库;

Manager:

get/delete/refresh/get_all等接口的具体实现类,目前代理池只负责管理proxy,日后可能会有更多功能,比如代理和爬虫的绑定,代理和账号的绑定等等;

ProxyGetter:

代理获取的相关代码,目前抓取了快代理、代理66、有代理、西刺代理、guobanjia这个五个网站的免费代理,经测试这个5个网站每天更新的可用代理只有六七十个,当然也支持自己扩展代理接口;

Schedule:

定时任务相关代码,现在只是实现定时去刷新代码,并验证可用代理,采用多进程方式;

Util:

存放一些公共的模块方法或函数,包含GetConfig:读取配置文件config.ini的类,ConfigParse: 集成重写ConfigParser的类,使其对大小写敏感, Singleton:实现单例,LazyProperty:实现类属性惰性计算。等等;

其他文件:

配置文件:Config.ini,数据库配置和代理获取接口配置,可以在GetFreeProxy中添加新的代理获取方法,并在Config.ini中注册即可使用;

4、安装

下载代码:

Python

git clone git@github.com:jhao104/proxy_pool.git
或者直接到https://github.com/jhao104/proxy_pool 下载zip文件
git clone git@github.com:jhao104/proxy_pool.git
或者直接到https://github.com/jhao104/proxy_pool 下载zip文件

安装依赖:

Python

pip install -r requirements.txt
pip install -r requirements.txt

启动:

Python

需要分别启动定时任务和api
到Config.ini中配置你的SSDB
到Schedule目录下:
>>>python ProxyRefreshSchedule.py
到Api目录下:
>>>python ProxyApi.py
需要分别启动定时任务和api
到Config.ini中配置你的SSDB
到Schedule目录下:
>>>python ProxyRefreshSchedule.py
到Api目录下:
>>>python ProxyApi.py

5、使用

定时任务启动后,会通过代理获取方法fetch所有代理放入数据库并验证。此后默认每20分钟会重复执行一次。定时任务启动大概一两分钟后,便可在SSDB中看到刷新出来的可用的代理:

深入理解Python爬虫代理池服务

useful_proxy

启动ProxyApi.py后即可在浏览器中使用接口获取代理,一下是浏览器中的截图:

index页面:

深入理解Python爬虫代理池服务

get页面:

深入理解Python爬虫代理池服务

get_all页面:

深入理解Python爬虫代理池服务

爬虫中使用,如果要在爬虫代码中使用的话, 可以将此api封装成函数直接使用,例如:

Python

import requests
def get_proxy():
 return requests.get("http://127.0.0.1:5000/get/").content
def delete_proxy(proxy):
 requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))
# your spider code
def spider():
 # ....
 requests.get('https://www.example.com', proxies={"http": "http://{}".format(get_proxy)})
 # ....
import requests
def get_proxy():
 return requests.get("http://127.0.0.1:5000/get/").content
def delete_proxy(proxy):
 requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))
# your spider code
def spider():
 # ....
 requests.get('https://www.example.com', proxies={"http": "http://{}".format(get_proxy)})
 # ....

6、最后

时间仓促,功能和代码都比较简陋,以后有时间再改进。喜欢的在github上给个star。感谢!

github项目地址:https://github.com/jhao104/proxy_pool

总结

以上所述是小编给大家介绍的Python爬虫代理池服务,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
python在windows命令行下输出彩色文字的方法
Mar 19 Python
Python实现的破解字符串找茬游戏算法示例
Sep 25 Python
python实现分页效果
Oct 25 Python
关于Django显示时间你应该知道的一些问题
Dec 25 Python
Python自定义函数实现求两个数最大公约数、最小公倍数示例
May 21 Python
Python两个字典键同值相加的几种方法
Mar 05 Python
对PyQt5的输入对话框使用(QInputDialog)详解
Jun 25 Python
对python中GUI,Label和Button的实例详解
Jun 27 Python
python实现动态数组的示例代码
Jul 15 Python
python实现图片压缩代码实例
Aug 12 Python
学会python自动收发邮件 代替你问候女友
May 20 Python
Python通过yagmail实现发送邮件代码解析
Oct 27 Python
python实现装饰器、描述符
Feb 28 #Python
python安装教程
Feb 28 #Python
深入理解Python 关于supper 的 用法和原理
Feb 28 #Python
TensorFlow实现RNN循环神经网络
Feb 28 #Python
python使用TensorFlow进行图像处理的方法
Feb 28 #Python
使用Python搭建虚拟环境的配置方法
Feb 28 #Python
Python OpenCV获取视频的方法
Feb 28 #Python
You might like
MYSQL 小技巧 -- LAST_INSERT_ID
2009/11/24 PHP
thinkPHP显示不出验证码的原因与解决方法分析
2017/05/20 PHP
PHP基于自定义类随机生成姓名的方法示例
2017/08/05 PHP
Javascript实例教程(19) 使用HoTMetal(6)
2006/12/23 Javascript
checkbox 多选框 联动实现代码
2008/10/22 Javascript
javascript eval函数深入认识
2009/02/21 Javascript
jQuery 前的按键判断代码
2010/03/19 Javascript
ExtJs grid行 右键菜单的两种方法
2010/06/19 Javascript
js Event对象的5种坐标
2011/09/12 Javascript
为原生js Array增加each方法
2012/04/07 Javascript
枚举的实现求得1-1000所有出现1的数字并计算出现1的个数
2013/09/10 Javascript
jqueyr判断checkbox组的选中(示例代码)
2013/11/08 Javascript
基于jquery实现的可编辑下拉框实现代码
2014/08/02 Javascript
浅谈js的setInterval事件
2014/12/05 Javascript
javascript用函数实现对象的方法
2015/05/14 Javascript
基于RequireJS和JQuery的模块化编程日常问题解析
2016/04/14 Javascript
对vue中v-on绑定自定事件的实例讲解
2018/09/06 Javascript
微信小程序实现打开并下载服务器上面的pdf文件到手机
2019/09/20 Javascript
javascript设计模式 ? 抽象工厂模式原理与应用实例分析
2020/04/09 Javascript
js实现简单音乐播放器
2020/06/30 Javascript
跟老齐学Python之有点简约的元组
2014/09/24 Python
Python实现的当前时间多加一天、一小时、一分钟操作示例
2018/05/21 Python
Django+JS 实现点击头像即可更改头像的方法示例
2018/12/26 Python
python使用selenium实现批量文件下载
2019/03/11 Python
pyqt5 QProgressBar清空进度条的实例
2019/06/21 Python
tensorflow使用range_input_producer多线程读取数据实例
2020/01/20 Python
TensorFlow实现从txt文件读取数据
2020/02/05 Python
python通过matplotlib生成复合饼图
2020/02/06 Python
python 实现图片批量压缩的示例
2020/12/18 Python
CSS3过渡transition效果实例介绍
2016/05/03 HTML / CSS
Too Faced官网:美国知名彩妆品牌
2017/03/07 全球购物
金融专业个人的自我评价
2013/10/18 职场文书
创业计划书怎样才能打动风投
2014/01/01 职场文书
聚众斗殴罪辩护词
2015/05/21 职场文书
Apache压力测试工具的安装使用
2021/03/31 Servers
python利用while求100内的整数和方式
2021/11/07 Python