python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python 冒泡,选择,插入排序使用实例
Feb 05 Python
Python全局变量用法实例分析
Jul 19 Python
详谈Python中列表list,元祖tuple和numpy中的array区别
Apr 18 Python
python实现求特征选择的信息增益
Dec 18 Python
Python判断变量名是否合法的方法示例
Jan 28 Python
十个Python练手的实战项目,学会这些Python就基本没问题了(推荐)
Apr 26 Python
Tensorflow实现部分参数梯度更新操作
Jan 23 Python
关于tf.TFRecordReader()函数的用法解析
Feb 17 Python
python 实现读取csv数据,分类求和 再写进 csv
May 18 Python
python rolling regression. 使用 Python 实现滚动回归操作
Jun 08 Python
django教程如何自学
Jul 31 Python
Jupyter notebook 更改文件打开的默认路径操作
May 21 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
php中将图片gif,jpg或mysql longblob或blob字段值转换成16进制字符串
2011/08/23 PHP
php操作xml入门之xml标签的属性分析
2015/01/23 PHP
PHP封装CURL扩展类实例
2015/07/28 PHP
PHP实现一维数组与二维数组去重功能示例
2018/05/24 PHP
用 JavaScript 迁移目录
2006/12/18 Javascript
区分JS中的undefined,null,"",0和false
2007/03/08 Javascript
枚举的实现求得1-1000所有出现1的数字并计算出现1的个数
2013/09/10 Javascript
2014 HTML5/CSS3热门动画特效TOP10
2014/12/07 Javascript
通过XMLHttpRequest和jQuery实现ajax的几种方式
2015/08/28 Javascript
js与jquery正则验证电子邮箱、手机号、邮政编码的方法
2016/07/04 Javascript
jquery实现简单的瀑布流布局
2016/12/11 Javascript
JavaScript正则替换HTML标签功能示例
2017/03/02 Javascript
node.js-v6新版安装具体步骤(分享)
2017/09/06 Javascript
Angular 向组件传递模板的两种方法
2018/02/23 Javascript
JS实现图片转换成base64的各种应用场景实例分析
2018/06/22 Javascript
JS调用安卓手机摄像头扫描二维码
2018/10/16 Javascript
JavaScript常用工具方法封装
2019/02/12 Javascript
vue界面发送表情的实现代码
2020/09/11 Javascript
[49:59]KG vs Mineski 2019国际邀请赛小组赛 BO2 第二场 8.15
2019/08/16 DOTA
Python中的pack和unpack的使用
2018/03/12 Python
Python带动态参数功能的sqlite工具类
2018/05/26 Python
Python变量及数据类型用法原理汇总
2020/08/06 Python
详解anaconda离线安装pytorchGPU版
2020/09/08 Python
Opencv常见图像格式Data Type及代码实例
2020/11/02 Python
5分钟快速掌握Python定时任务框架的实现
2021/01/26 Python
CSS3改变浏览器滚动条样式
2019/01/04 HTML / CSS
Sneaker Studio波兰:购买运动鞋
2018/04/28 全球购物
Boden澳大利亚官网:英国在线服装公司
2018/08/05 全球购物
酒店总经理工作职责
2013/12/13 职场文书
幼儿园小班教学反思
2014/02/02 职场文书
汽车装潢店创业计划书范文
2014/02/05 职场文书
科技开发中心办公室主任岗位责任制
2014/02/10 职场文书
道路施工安全责任书
2014/07/24 职场文书
介绍信模板
2015/01/31 职场文书
董事长助理工作总结2015
2015/07/23 职场文书
会计手工模拟做账心得体会
2016/01/22 职场文书