python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
使用Python脚本对Linux服务器进行监控的教程
Apr 02 Python
python常见数制转换实例分析
May 09 Python
Python如何实现文本转语音
Aug 08 Python
python3编码问题汇总
Sep 06 Python
关于Python 3中print函数的换行详解
Aug 08 Python
python 中的list和array的不同之处及转换问题
Mar 13 Python
pandas表连接 索引上的合并方法
Jun 08 Python
django框架基于模板 生成 excel(xls) 文件操作示例
Jun 19 Python
python选取特定列 pandas iloc,loc,icol的使用详解(列切片及行切片)
Aug 06 Python
python json.dumps中文乱码问题解决
Apr 01 Python
python实现图片转换成素描和漫画格式
Aug 19 Python
python 获取字典特定值对应的键的实现
Sep 29 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
php抓取页面的几种方法详解
2013/06/17 PHP
php实现在服务器上创建目录的方法
2015/03/16 PHP
简单谈谈php延迟静态绑定
2016/01/26 PHP
是 WordPress 让 PHP 更流行了 而不是框架
2016/02/03 PHP
JavaScript中的new的使用方法与注意事项
2007/05/16 Javascript
用js的for循环获取radio选中的值
2013/10/21 Javascript
使用js Math.random()函数生成n到m间的随机数字
2014/10/09 Javascript
JS代码实现根据时间变换页面背景效果
2016/06/16 Javascript
Javascript的比较汇总
2016/07/25 Javascript
JS+CSS3制作炫酷的弹窗效果
2016/11/08 Javascript
js数字计算 误差问题的快速解决方法
2017/02/28 Javascript
微信小程序 action-sheet 反馈上拉菜单简单实例
2017/05/11 Javascript
JS实现的3des+base64加密解密算法完整示例
2018/05/18 Javascript
iphone刘海屏页面适配方法
2019/05/07 Javascript
JavaScript制作3D旋转相册
2020/08/02 Javascript
vue 开发企业微信整合案例分析
2019/12/02 Javascript
vue 调用 RESTful风格接口操作
2020/08/11 Javascript
Vue中使用wangeditor富文本编辑的问题
2021/02/07 Vue.js
[50:34]VGJ.T vs Fnatic 2018国际邀请赛小组赛BO2 第二场 8.16
2018/08/17 DOTA
Python实现的金山快盘的签到程序
2013/01/17 Python
Python序列之list和tuple常用方法以及注意事项
2015/01/09 Python
Java多线程编程中ThreadLocal类的用法及深入
2016/06/21 Python
django rest framework之请求与响应(详解)
2017/11/06 Python
pandas实现选取特定索引的行
2018/04/20 Python
详解Django的CSRF认证实现
2018/10/09 Python
python利用百度AI实现文字识别功能
2018/11/27 Python
python各种excel写入方式的速度对比
2020/11/10 Python
CSS3实现DIV圆角效果完整代码
2012/10/10 HTML / CSS
大学生自荐书范文
2013/12/10 职场文书
计算机专业毕业生自荐信
2013/12/31 职场文书
大学生创业感言
2014/01/25 职场文书
革命英雄事迹演讲稿
2014/09/13 职场文书
我的中国梦主题教育活动总结
2015/05/07 职场文书
2015年幼儿园卫生保健工作总结
2015/05/12 职场文书
简单的辞职信模板
2015/05/12 职场文书
JavaWeb Servlet实现网页登录功能
2021/07/04 Java/Android