python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
开源Web应用框架Django图文教程
Mar 09 Python
Python实现PS图像调整颜色梯度效果示例
Jan 25 Python
解决python报错MemoryError的问题
Jun 26 Python
浅谈关于Python3中venv虚拟环境
Aug 01 Python
对Python Class之间函数的调用关系详解
Jan 23 Python
python元组的概念知识点
Nov 19 Python
PyCharm 2020 激活到 2100 年的教程
Mar 25 Python
关于python 的legend图例,参数使用说明
Apr 17 Python
CentOS 7如何实现定时执行python脚本
Jun 24 Python
python 如何调用 dubbo 接口
Sep 24 Python
Python批量删除mysql中千万级大量数据的脚本分享
Dec 03 Python
django 认证类配置实现
Nov 11 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
提升PHP速度全攻略
2006/10/09 PHP
Ajax+PHP快速上手及简单应用说明
2013/07/24 PHP
PHP中Closure类的使用方法及详解
2015/10/09 PHP
IE和firefox浏览器的event事件兼容性汇总
2009/12/06 Javascript
JS 图片缩放效果代码
2010/06/09 Javascript
JSON+JavaScript处理JSON的简单例子
2013/03/20 Javascript
网站如何做到完全不需要jQuery也可以满足简单需求
2013/06/27 Javascript
同域jQuery(跨)iframe操作DOM(实例讲解)
2013/12/19 Javascript
常用DOM整理
2015/06/16 Javascript
跟我学习javascript的arguments对象
2015/11/16 Javascript
使用jQuery制作基础的Web图片轮播效果
2016/04/22 Javascript
AngularJS入门教程之ng-class 指令用法
2016/08/01 Javascript
移动端js触摸事件详解
2016/09/18 Javascript
js仿拉勾网首页穿墙广告效果
2017/03/08 Javascript
javascript基于定时器实现进度条功能实例
2017/10/13 Javascript
详解Vue.js iview实现树形权限表(可扩展表)
2018/09/30 Javascript
解决vue 界面在苹果手机上滑动点击事件等卡顿问题
2018/11/27 Javascript
js最实用string(字符串)类型的使用及截取与拼接详解
2019/04/26 Javascript
微信小程序webview 脚手架使用详解
2019/07/22 Javascript
VsCode与Node.js知识点详解
2019/09/05 Javascript
js单线程的本质 Event Loop解析
2019/10/29 Javascript
JavaScript实现鼠标经过表格某行时此行变色
2020/11/20 Javascript
[02:30]辉夜杯主赛事第二日胜者组半决赛 CDEC.Y赛后采访
2015/12/26 DOTA
python中列表元素连接方法join用法实例
2015/04/07 Python
Python的ORM框架中SQLAlchemy库的查询操作的教程
2015/04/25 Python
基于Linux系统中python matplotlib画图的中文显示问题的解决方法
2017/06/15 Python
Python基于分析Ajax请求实现抓取今日头条街拍图集功能示例
2018/07/19 Python
Django REST framework内置路由用法
2019/07/26 Python
Python实现图像的垂直投影示例
2020/01/17 Python
Python opencv相机标定实现原理及步骤详解
2020/04/09 Python
python opencv肤色检测的实现示例
2020/12/21 Python
用pushplus+python监控亚马逊到货动态推送微信
2021/01/29 Python
德国汉莎航空中国官网: Lufthansa中国
2017/03/30 全球购物
法人授权委托书样本
2014/09/19 职场文书
公务员廉洁从政心得体会
2016/01/19 职场文书
Python 内置函数速查表一览
2021/06/02 Python