python+selenium+Chrome options参数的使用


Posted in Python onMarch 18, 2020

Chrome Options常用的行为一般有以下几种:

  • 禁止图片和视频的加载:提升网页加载速度。
  • 添加代理:用于翻墙访问某些页面,或者应对IP访问频率限制的反爬技术。
  • 使用移动头:访问移动端的站点,一般这种站点的反爬技术比较薄弱。
  • 添加扩展:像正常使用浏览器一样的功能。
  • 设置编码:应对中文站,防止乱码。
  • 阻止JavaScript执行
  • ...

Chrome Options是一个配置chrome启动时属性的类,通过这个参数我们可以为Chrome添加如下参数:

  • 设置 chrome 二进制文件位置 (binary_location)
  • 添加启动参数 (add_argument)
  • 添加扩展应用 (add_extension, add_encoded_extension)
  • 添加实验性质的设置参数 (add_experimental_option)
  • 设置调试器地址 (debugger_address)

针对编码格式的操作

# 设置默认编码为 utf-8
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('lang=zh_CN.UTF-8')
driver = webdriver.Chrome(chrome_options = options)

针对UA请求头的操作

# 设置请求头为huaweiMeta10 Pro
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('User-Agent=Mozilla/5.0 (Linux; U; Android 8.1.0; zh-cn; BLA-AL00 Build/HUAWEIBLA-AL00) AppleWebKit/537.36 (KHTML, like Gecko) Version/4.0 Chrome/57.0.2987.132 MQQBrowser/8.9 Mobile Safari/537.36')
options.add_argument('--headless') # 浏览器不提供可视化页面
driver = webdriver.Chrome(chrome_options = options)

http://www.fynas.com/ua

针对禁止加载图片的操作

# 设置浏览器禁止加载图片
from selenium import webdriver
options = webdriver.ChromeOptions()
prefs = {"profile.managed_default_content_settings.images": 2}
options.add_experimental_option("prefs", prefs)
driver = webdriver.Chrome(chrome_options = options)

针对IP代理的操作

特别需要注意,在选择代理时,尽量选择静态IP,才能提升爬取的稳定性。如果使用动态匿名IP,每个IP的存活时间是很短的。

# 设置无账号密码的代理
chromeOptions = webdriver.ChromeOptions()
chromeOptions.add_argument('--proxy-server=http://ip:port') 
driver = webdriver.Chrome(chrome_options=chromeOptions)
# 设置有账号密码的代理
proxyauth_plugin_path = create_proxyauth_extension(
   proxy_host='host',
   proxy_port='port',
   proxy_username="username",
   proxy_password="password"
  )
options.add_extension(proxyauth_plugin_path)

查看IP地址的链接:http://httpbin.org/ip

针对添加插件的操作

# 添加xpath helper应用

from selenium import webdriver
chrome_options = webdriver.ChromeOptions()

# 设置好应用扩展
extension_path = 'your file_path'
chrome_options.add_extension(extension_path)

针对登录时关闭弹出的密码保存提示框

from selenium import webdriver 
from selenium.webdriver.common.by import By
options = webdriver.ChromeOptions() 
prefs = {} 
# 设置这两个参数就可以避免密码提示框的弹出
prefs[“credentials_enable_service”] = False 
prefs[“profile.password_manager_enabled”] = False 
options.add_experimental_option(“prefs”, prefs) 
browser = webdriver.Chrome(chrome_options=options) 
browser.get('https://www.baidu.com/')
browser.quit()

其它配置

options.add_argument('--disable-infobars') # 禁止策略化
options.add_argument('--no-sandbox') # 解决DevToolsActivePort文件不存在的报错
options.add_argument('window-size=1920x3000') # 指定浏览器分辨率
options.add_argument('--disable-gpu') # 谷歌文档提到需要加上这个属性来规避bug
options.add_argument('--incognito') # 隐身模式(无痕模式)
options.add_argument('--disable-javascript') # 禁用javascript
options.add_argument('--start-maximized') # 最大化运行(全屏窗口),不设置,取元素会报错
options.add_argument('--disable-infobars') # 禁用浏览器正在被自动化程序控制的提示
options.add_argument('--hide-scrollbars') # 隐藏滚动条, 应对一些特殊页面
options.add_argument('blink-settings=imagesEnabled=false') # 不加载图片, 提升速度
options.add_argument('--headless') # 浏览器不提供可视化页面. linux下如果系统不支持可视化不加这条会启动失败
options.binary_location = r"C:\Program Files (x86)\Google\Chrome\Application\chrome.exe" # 手动指定使用的浏览器位置

更多插件操作请参考:https://3water.com/article/182967.htm

到此这篇关于python+selenium+Chrome options参数的使用的文章就介绍到这了,更多相关selenium Chrome options参数 内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python数据结构之栈、队列的实现代码分享
Dec 04 Python
python 读取DICOM头文件的实例
May 07 Python
python用户评论标签匹配的解决方法
May 31 Python
Python爬虫爬取新浪微博内容示例【基于代理IP】
Aug 03 Python
在pycharm上mongodb配置及可视化设置方法
Nov 30 Python
pyside+pyqt实现鼠标右键菜单功能
Dec 08 Python
python快排算法详解
Mar 04 Python
python将excel转换为csv的代码方法总结
Jul 03 Python
Python3+Appium安装使用教程
Jul 05 Python
python多线程同步实例教程
Aug 11 Python
linux下python中文乱码解决方案详解
Aug 28 Python
解决python中0x80072ee2错误的方法
Jul 19 Python
selenium WebDriverWait类等待机制的实现
Mar 18 #Python
Python socket处理client连接过程解析
Mar 18 #Python
python selenium自动化测试框架搭建的方法步骤
Jun 14 #Python
Python如何使用paramiko模块连接linux
Mar 18 #Python
Python selenium页面加载慢超时的解决方案
Mar 18 #Python
Python Selenium 设置元素等待的三种方式
Mar 18 #Python
Python多线程threading join和守护线程setDeamon原理详解
Mar 18 #Python
You might like
剧场版动画《PSYCHO-PASS 3 FIRST INSPECTOR》3月27日日本上映!
2020/03/06 日漫
Windows Apache2.2.11及Php5.2.9-1的安装与配置方法
2009/06/08 PHP
php获取文件夹路径内的图片以及分页显示示例
2014/03/11 PHP
非常全面的php日期时间运算汇总
2015/11/04 PHP
PHP封装的PDO数据库操作类实例
2017/06/21 PHP
解决安装WampServer时提示缺少msvcr110.dll文件的问题
2017/07/09 PHP
使用PHP开发留言板功能
2019/11/19 PHP
由JavaScript技术实现的web小游戏(不含网游)
2010/06/12 Javascript
js过滤HTML标签以及空格的思路及代码
2013/05/24 Javascript
jquery $.fn $.fx是什么意思有什么用
2013/11/04 Javascript
如何用jquery控制表格奇偶行及活动行颜色
2014/04/20 Javascript
JS如何实现文本框随文本的长度而增长
2015/07/30 Javascript
jQuery 获取select选中值及清除选中状态
2016/12/13 Javascript
详解vue-admin和后端(flask)分离结合的例子
2018/02/12 Javascript
node.js基于socket.io快速实现一个实时通讯应用
2019/04/23 Javascript
微信小程序项目总结之记账小程序功能的实现(包括后端)
2019/08/20 Javascript
Vue学习笔记之计算属性与侦听器用法
2019/12/07 Javascript
vue使用nprogress实现进度条
2019/12/09 Javascript
vue2.x数组劫持原理的实现
2020/04/19 Javascript
[04:11]DOTA2上海特级锦标赛主赛事首日TOP10
2016/03/03 DOTA
详解Python中的多线程编程
2015/04/09 Python
基于python脚本实现软件的注册功能(机器码+注册码机制)
2016/10/09 Python
python 链接sqlserver 写接口实例
2020/03/11 Python
浅谈TensorFlow中读取图像数据的三种方式
2020/06/30 Python
Python unittest装饰器实现原理及代码
2020/09/08 Python
python实现不同数据库间数据同步功能
2021/02/25 Python
水上运动奥特莱斯:Wasterports Outlet
2018/08/08 全球购物
世界经理人咨询有限公司面试
2014/09/23 面试题
新闻专业个人求职信
2013/12/19 职场文书
玩具公司的创业计划书
2013/12/31 职场文书
写给女生的道歉信
2014/01/14 职场文书
销售主管岗位职责
2014/02/08 职场文书
销售员自我评价
2015/03/11 职场文书
2015年支教教师工作总结
2015/07/22 职场文书
小学班主任培训心得体会
2016/01/07 职场文书
Mysql分析设计表主键为何不用uuid
2022/03/31 MySQL