python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python文件比较示例分享
Jan 10 Python
wxPython中listbox用法实例详解
Jun 01 Python
利用python实现数据分析
Jan 11 Python
Python DataFrame 设置输出不显示index(索引)值的方法
Jun 07 Python
Python实现九宫格式的朋友圈功能内附“马云”朋友圈
May 07 Python
Python学习笔记之抓取某只基金历史净值数据实战案例
Jun 03 Python
python实现Dijkstra算法的最短路径问题
Jun 21 Python
PYTHON EVAL的用法及注意事项解析
Sep 06 Python
python爬虫爬取幽默笑话网站
Oct 24 Python
python GUI库图形界面开发之PyQt5 UI主线程与耗时线程分离详细方法实例
Feb 26 Python
python logging.info在终端没输出的解决
May 12 Python
pytorch损失反向传播后梯度为none的问题
May 12 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
PHP 出现乱码和Sessions验证问题的解决方法!
2008/12/06 PHP
php设计模式 Builder(建造者模式)
2011/06/26 PHP
在PHP中利用wsdl创建标准webservice的实现代码
2011/12/07 PHP
浅析PHP原理之变量(Variables inside PHP)
2013/08/09 PHP
ThinkPHP令牌验证实例
2014/06/18 PHP
php表单提交与$_POST实例分析
2015/01/26 PHP
extjs 学习笔记(二) Ext.Element类
2009/10/13 Javascript
JavaScript 函数replace深入了解
2013/03/14 Javascript
JS幻灯片可循环播放可平滑旋转带滚动导航(自写)
2013/08/05 Javascript
Js数组排序函数sort()介绍
2015/06/08 Javascript
三种带箭头提示框总结实例
2016/06/14 Javascript
Angular2 (RC4) 路由与导航详解
2016/09/21 Javascript
文件上传插件SWFUpload的使用指南
2016/11/29 Javascript
javascript十六进制数字和ASCII字符之间的转换方法
2016/12/27 Javascript
使用Vue.js和Flask来构建一个单页的App的示例
2018/03/21 Javascript
使用nodejs实现JSON文件自动转Excel的工具(推荐)
2020/06/24 NodeJs
[00:23]魔方之谜解锁款式
2018/12/20 DOTA
tensorflow入门之训练简单的神经网络方法
2018/02/26 Python
Python scipy的二维图像卷积运算与图像模糊处理操作示例
2019/09/06 Python
scrapy-redis分布式爬虫的搭建过程(理论篇)
2020/09/29 Python
详解win10下pytorch-gpu安装以及CUDA详细安装过程
2021/01/28 Python
使用CSS3实现input多选框自定义样式的方法示例
2019/07/19 HTML / CSS
HTML5 本地存储 LocalStorage详解
2016/06/24 HTML / CSS
KARATOV珠宝在线商店:俄罗斯珠宝品牌
2019/03/13 全球购物
Canal官网:巴西女性时尚品牌
2019/10/16 全球购物
大学生个人总结的自我评价
2013/10/05 职场文书
应届生的求职推荐信范文
2013/11/30 职场文书
农村改厕实施方案
2014/03/22 职场文书
辅导员评语
2014/05/04 职场文书
小学四年级班主任工作经验交流材料
2015/11/02 职场文书
Python实战之实现康威生命游戏
2021/04/26 Python
Mysql关于数据库是否应该使用外键约束详解说明
2021/10/24 MySQL
python多线程方法详解
2022/01/18 Python
Python requests用法和django后台处理详解
2022/03/19 Python
golang定时器
2022/04/14 Golang
ubuntu下常用apt命令介绍
2022/06/05 Servers