python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python 排序算法总结及实例详解
Sep 28 Python
Python爬虫实例_城市公交网络站点数据的爬取方法
Jan 10 Python
对python3 urllib包与http包的使用详解
May 10 Python
python判断设备是否联网的方法
Jun 29 Python
python中使用print输出中文的方法
Jul 16 Python
对python中的six.moves模块的下载函数urlretrieve详解
Dec 19 Python
使用Template格式化Python字符串的方法
Jan 22 Python
python的依赖管理的实现
May 14 Python
使用Python实现将list中的每一项的首字母大写
Jun 11 Python
Ubuntu18.04中Python2.7与Python3.6环境切换
Jun 14 Python
使用python修改文件并立即写回到原始位置操作(inplace读写)
Jun 28 Python
Python 图片处理库exifread详解
Feb 25 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
php存储过程调用实例代码
2013/02/03 PHP
深入php多态的实现详解
2013/06/09 PHP
PHP PDOStatement::debugDumpParams讲解
2019/01/30 PHP
js 第二代身份证号码的验证机制代码
2011/05/12 Javascript
Jquery获取复选框被选中值的简单方法
2013/07/04 Javascript
轻量级的原生js日历插件calendar.js使用指南
2015/04/28 Javascript
AngularJS实现Model缓存的方式
2016/02/03 Javascript
使用jQuery5分钟快速搞定双色表格的简单实例
2016/08/08 Javascript
AngularJs bootstrap搭载前台框架——准备工作
2016/09/01 Javascript
PHP抓取HTTPS内容和错误处理的方法
2016/09/30 Javascript
浅析JavaScript动画模拟拖拽原理
2016/12/09 Javascript
详解vue 项目白屏解决方案
2018/10/31 Javascript
微信小程序中使用Async-await方法异步请求变为同步请求方法
2019/03/28 Javascript
JS中FileReader类实现文件上传及时预览功能
2020/03/27 Javascript
python求斐波那契数列示例分享
2014/02/14 Python
浅析python实现scrapy定时执行爬虫
2018/03/04 Python
Python SQL查询并生成json文件操作示例
2018/08/17 Python
Python比较配置文件的方法实例详解
2019/06/06 Python
python读取并写入mat文件的方法
2019/07/12 Python
Python的matplotlib绘图如何修改背景颜色的实现
2019/07/16 Python
浅析Python 引号、注释、字符串
2019/07/25 Python
python 实现按对象传值
2019/12/26 Python
python实现多进程按序号批量修改文件名的方法示例
2019/12/30 Python
Python自定义sorted排序实现方法详解
2020/09/18 Python
python上下文管理器异常问题解决方法
2021/02/07 Python
CSS3使用border-radius属性制作圆角
2014/12/22 HTML / CSS
用CSS3实现背景渐变的方法
2015/07/14 HTML / CSS
德国网上花店:Valentins
2018/08/15 全球购物
艺术用品:Arteza
2018/11/25 全球购物
日本即尚网:JSHOPPERS.com(支持中文)
2019/12/03 全球购物
精选鞋类、服装和配饰的全球领先目的地:Bodega
2021/02/27 全球购物
应届生求职简历的自我评价怎么写
2013/10/23 职场文书
创业计划书如何编写
2014/02/06 职场文书
企业员工薪酬方案
2014/06/04 职场文书
项目委托协议书(最新)
2014/09/13 职场文书
2019年共青团工作条例最新版
2019/11/12 职场文书