Python爬虫代理IP池实现方法


Posted in Python onJanuary 05, 2017

在公司做分布式深网爬虫,搭建了一套稳定的代理池服务,为上千个爬虫提供有效的代理,保证各个爬虫拿到的都是对应网站有效的代理IP,从而保证爬虫快速稳定的运行,当然在公司做的东西不能开源出来。不过呢,闲暇时间手痒,所以就想利用一些免费的资源搞一个简单的代理池服务。

1、问题

代理IP从何而来?
刚自学爬虫的时候没有代理IP就去西刺、快代理之类有免费代理的网站去爬,还是有个别代理能用。当然,如果你有更好的代理接口也可以自己接入。

免费代理的采集也很简单,无非就是:访问页面页面 —> 正则/xpath提取 —> 保存

如何保证代理质量?
可以肯定免费的代理IP大部分都是不能用的,不然别人为什么还提供付费的(不过事实是很多代理商的付费IP也不稳定,也有很多是不能用)。所以采集回来的代理IP不能直接使用,可以写检测程序不断的去用这些代理访问一个稳定的网站,看是否可以正常使用。这个过程可以使用多线程或异步的方式,因为检测代理是个很慢的过程。

采集回来的代理如何存储?
这里不得不推荐一个高性能支持多种数据结构的NoSQL数据库SSDB,用于代理Redis。支持队列、hash、set、k-v对,支持T级别数据。是做分布式爬虫很好中间存储工具。

如何让爬虫更简单的使用这些代理?
答案肯定是做成服务咯,python有这么多的web框架,随便拿一个来写个api供爬虫调用。这样有很多好处,比如:当爬虫发现代理不能使用可以主动通过api去delete代理IP,当爬虫发现代理池IP不够用时可以主动去refresh代理池。这样比检测程序更加靠谱。

2、代理池设计

代理池由四部分组成:

ProxyGetter:
代理获取接口,目前有5个免费代理源,每调用一次就会抓取这个5个网站的最新代理放入DB,可自行添加额外的代理获取接口;

DB:
用于存放代理IP,现在暂时只支持SSDB。至于为什么选择SSDB,大家可以参考这篇文章,个人觉得SSDB是个不错的Redis替代方案,如果你没有用过SSDB,安装起来也很简单,可以参考这里;

Schedule:
计划任务用户定时去检测DB中的代理可用性,删除不可用的代理。同时也会主动通过ProxyGetter去获取最新代理放入DB;

ProxyApi:
代理池的外部接口,由于现在这么代理池功能比较简单,花两个小时看了下Flask,愉快的决定用Flask搞定。功能是给爬虫提供get/delete/refresh等接口,方便爬虫直接使用。

Python爬虫代理IP池实现方法

[HTML_REMOVED] 设计

3、代码模块

Python中高层次的数据结构,动态类型和动态绑定,使得它非常适合于快速应用开发,也适合于作为胶水语言连接已有的软件部件。用Python来搞这个代理IP池也很简单,代码分为6个模块:

Api:

api接口相关代码,目前api是由Flask实现,代码也非常简单。客户端请求传给Flask,Flask调用ProxyManager中的实现,包括get/delete/refresh/get_all

DB:

数据库相关代码,目前数据库是采用SSDB。代码用工厂模式实现,方便日后扩展其他类型数据库;

Manager:

get/delete/refresh/get_all等接口的具体实现类,目前代理池只负责管理proxy,日后可能会有更多功能,比如代理和爬虫的绑定,代理和账号的绑定等等;

ProxyGetter:

代理获取的相关代码,目前抓取了快代理、代理66、有代理、西刺代理、guobanjia这个五个网站的免费代理,经测试这个5个网站每天更新的可用代理只有六七十个,当然也支持自己扩展代理接口;

Schedule:

定时任务相关代码,现在只是实现定时去刷新代码,并验证可用代理,采用多进程方式;

Util:

存放一些公共的模块方法或函数,包含GetConfig:读取配置文件config.ini的类,ConfigParse: 集成重写ConfigParser的类,使其对大小写敏感, Singleton:实现单例,LazyProperty:实现类属性惰性计算。等等;

其他文件:

配置文件:Config.ini,数据库配置和代理获取接口配置,可以在GetFreeProxy中添加新的代理获取方法,并在Config.ini中注册即可使用;

4、安装

下载代码:

git clone git@github.com:jhao104/proxy_pool.git

或者直接到https://github.com/jhao104/proxy_pool 下载zip文件

安装依赖:

pip install -r requirements.txt

启动:

需要分别启动定时任务和api
到Config.ini中配置你的SSDB

到Schedule目录下:
>>>python ProxyRefreshSchedule.py

到Api目录下:
>>>python ProxyApi.py

5、使用

定时任务启动后,会通过代理获取方法fetch所有代理放入数据库并验证。此后默认每20分钟会重复执行一次。定时任务启动大概一两分钟后,便可在SSDB中看到刷新出来的可用的代理:

Python爬虫代理IP池实现方法

启动ProxyApi.py后即可在浏览器中使用接口获取代理,一下是浏览器中的截图:
index页面:

Python爬虫代理IP池实现方法

get页面:

Python爬虫代理IP池实现方法

get_all页面:

Python爬虫代理IP池实现方法

爬虫中使用,如果要在爬虫代码中使用的话, 可以将此api封装成函数直接使用,例如:

import requests

def get_proxy():
  return requests.get("http://127.0.0.1:5000/get/").content

def delete_proxy(proxy):
  requests.get("http://127.0.0.1:5000/delete/?proxy={}".format(proxy))

# your spider code

def spider():
  # ....
  requests.get('https://www.example.com', proxies={"http": "http://{}".format(get_proxy)})
  # ....

6、最后

时间仓促,功能和代码都比较简陋,以后有时间再改进。喜欢的在github上给个star。感谢!

项目地址:https://github.com/jhao104/proxy_pool

Python 相关文章推荐
Python的动态重新封装的教程
Apr 11 Python
Python的time模块中的常用方法整理
Jun 18 Python
Python入门之三角函数sin()函数实例详解
Nov 08 Python
Python实现Kmeans聚类算法
Jun 10 Python
Python爬虫实现全国失信被执行人名单查询功能示例
May 03 Python
用python代码将tiff图片存储到jpg的方法
Dec 04 Python
Pandas之Dropna滤除缺失数据的实现方法
Jun 25 Python
Django ORM 查询管理器源码解析
Aug 05 Python
pymysql 插入数据 转义处理方式
Mar 02 Python
python实现电子词典
Mar 03 Python
keras实现基于孪生网络的图片相似度计算方式
Jun 11 Python
Python异常类型以及处理方法汇总
Jun 05 Python
在 Python 应用中使用 MongoDB的方法
Jan 05 #Python
深入理解python对json的操作总结
Jan 05 #Python
Python socket网络编程TCP/IP服务器与客户端通信
Jan 05 #Python
Python网络爬虫出现乱码问题的解决方法
Jan 05 #Python
python fabric实现远程部署
Jan 05 #Python
python 捕获 shell/bash 脚本的输出结果实例
Jan 04 #Python
python 捕获shell脚本的输出结果实例
Jan 04 #Python
You might like
php共享内存段示例分享
2014/01/20 PHP
laravel 多图上传及图片的存储例子
2019/10/14 PHP
window.addeventjs事件驱动函数集合addEvent等
2008/02/19 Javascript
javascript 图片上传预览-兼容标准
2009/06/01 Javascript
Javascript玩转继承(二)
2014/05/08 Javascript
给js文件传参数(详解)
2014/07/13 Javascript
JavaScript使用replace函数替换字符串的方法
2015/04/06 Javascript
js+html5操作sqlite数据库的方法
2016/02/02 Javascript
jQuery给指定的table动态添加删除行的操作方法
2016/10/12 Javascript
angular2路由之routerLinkActive指令【推荐】
2018/05/30 Javascript
在小程序/mpvue中使用flyio发起网络请求的方法
2018/09/13 Javascript
[03:55]2014DOTA2国际邀请赛 Fnatic经理采访赢DK在情理之中
2014/07/10 DOTA
python之模拟鼠标键盘动作具体实现
2013/12/30 Python
Django中url的反向查询的方法
2018/03/14 Python
python爬取cnvd漏洞库信息的实例
2019/02/14 Python
解决pycharm下os.system执行命令返回有中文乱码的问题
2019/07/07 Python
python中hasattr()、getattr()、setattr()函数的使用
2019/08/16 Python
python同时替换多个字符串方法示例
2019/09/17 Python
在Python中使用MongoEngine操作数据库教程实例
2019/12/03 Python
Python matplotlib修改默认字体的操作
2020/03/05 Python
浅谈python 调用open()打开文件时路径出错的原因
2020/06/05 Python
python代码区分大小写吗
2020/06/17 Python
阿姆斯特丹城市卡:Amsterdam Pass
2019/12/01 全球购物
软件测试工程师笔试题带答案
2015/03/27 面试题
信息技术培训感言
2014/03/06 职场文书
高中生职业规划范文
2014/03/09 职场文书
经济信息系毕业生自荐信
2014/06/02 职场文书
会计专业自荐书
2014/07/08 职场文书
群教班子对照检查材料
2014/08/26 职场文书
学生检讨书范文
2015/01/27 职场文书
2015年度对口支援工作总结
2015/07/22 职场文书
教师节主题班会方案
2015/08/17 职场文书
先进个人主要事迹范文
2015/11/04 职场文书
js基础语法与maven项目配置教程案例
2021/07/15 Javascript
Python+OpenCV实现图片中的圆形检测
2022/04/07 Python
Vue3实现简易音乐播放器组件
2022/08/14 Vue.js