Python selenium页面加载慢超时的解决方案


Posted in Python onMarch 18, 2020

开发环境:

win10-64  python2.7.16  chrome77

from selenium import webdriver
driver = webdriver.Chrome(executable_path='chromedriver.exe')
driver.get('http://全部加载完成超级慢的网站')

user = 'abc'
pwd = '123

driver.find_element_by_id('email').send_keys(user)
driver.find_element_by_id('pass').send_keys(pwd)

先看这样一段代码

当执行了get以后,除非网站全部加载完成,否则你只能乖乖等,什么都不能干,这是整个程序是阻塞的,get不完就别想进行下面操作

这个等待可能是5分钟或者更久

其实5秒钟的时候界面就已经打开了,然后他还在加载些什么js,img,等待速度超慢的,但是网页人工是可以操作

那么有没有什么办法呢,网上找了一通,给出了很多解决方案

首先是这货(下面是我复制的):

from selenium import webdriver
driver=webdriver.Chrome()
driver.set_page_load_timeout(5)
driver.set_script_timeout(5)#这两种设置都进行才有效
try:
  d.get(s)
except:
  d.execute_script('window.stop()')#这句话好像没什么软用

可以在页面停止加载后继续操作了

driver.set_page_load_timeout(5)这玩意一设置,没问题,5秒后网页确实停止了,但是driver也死了,不管运行什么都是timeout,还说try一下,driver是死透了,只能重新来
不知道是selenium更新了还是他自己没测试还是chrome更新了,现在这么设置就是找死的

注意:使用set_page_load_timeout时候,当页面未加载出任何东西的时候(往往是html源码未加载),因为超时而停止,会导致driver失效,
后面的driver都不能操作,所以超时设置应该至少保证页面内容加载出来一部分,设置超时不宜过短,如下图在页面此种状态下停止加载后driver失效。

不错,是有人也说了,不能设置太短,会失效,但是我可以说,你设置5分钟照样失效,只要超时一次,driver就完蛋,直接翻车

接下来是另一个方法

# coding = utf-8
from selenium import webdriver
from selenium.webdriver.support.wait import WebDriverWait
import time

driver = webdriver.Chrome()
class button():
  def __call__(self, driver):
    if driver.find_element_by_id('js_love_url'):
      return True
    else:
      return False 

driver.implicitly_wait(60)
time_start = time.time()
driver.get('https://www.163.com/')

# driver.find_element_by_id('js_love_url').click()
WebDriverWait(driver,2,0.5).until(button()) 
time_end = time.time()
print('access time is : ', time_end - time_start)
time.sleep(2)
driver.quit()

用WebDriverWait进行操作,不过我测试下来,driver.get()不执行完,下面的代码根本就不会执行,所以还是不行

找了各种方法,各种操作,都失败了,总算今天找到了正确的方法

原理非常简单:driver.get()这个操作,改成不阻塞的就行了,这样打开网页就操作完成了,不需要等他加载

下面我可以直接等待需要的元素出现即可进行操作

配置也是很简单

from selenium import webdriver
from selenium.webdriver.common.desired_capabilities import DesiredCapabilities

#get直接返回,不再等待界面加载完成
desired_capabilities = DesiredCapabilities.CHROME
desired_capabilities["pageLoadStrategy"] = "none"

driver = webdriver.Chrome(executable_path='chromedriver.exe')

配置一个参数,就是页面加载策略,系统默认是等待,就是等他加载完,直接设置成none,就是不等待,这样就是get操作完后直接就是结束了

到此这篇关于Python selenium页面加载慢超时的解决方案的文章就介绍到这了,更多相关Python selenium加载慢内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
sqlalchemy对象转dict的示例
Apr 22 Python
编写Python脚本来实现最简单的FTP下载的教程
May 04 Python
django开发之settings.py中变量的全局引用详解
Mar 29 Python
Python入门_浅谈for循环、while循环
May 16 Python
python2 与python3的print区别小结
Jan 16 Python
Python中循环引用(import)失败的解决方法
Apr 22 Python
利用Django-environ如何区分不同环境
Aug 26 Python
一篇文章搞懂Python的类与对象名称空间
Dec 10 Python
django如何通过类视图使用装饰器
Jul 24 Python
使用python实现画AR模型时序图
Nov 20 Python
浅谈python3 构造函数和析构函数
Mar 12 Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 Python
Python Selenium 设置元素等待的三种方式
Mar 18 #Python
Python多线程threading join和守护线程setDeamon原理详解
Mar 18 #Python
Python semaphore evevt生产者消费者模型原理解析
Mar 18 #Python
Python中remove漏删和索引越界问题的解决
Mar 18 #Python
Python集成开发工具Pycharm的安装和使用详解
Mar 18 #Python
Python3监控windows,linux系统的CPU、硬盘、内存使用率和各个端口的开启情况详细代码实例
Mar 18 #Python
PyTorch加载自己的数据集实例详解
Mar 18 #Python
You might like
php结合表单实现一些简单功能的例子
2011/06/04 PHP
linux实现php定时执行cron任务详解
2013/12/24 PHP
php去除字符串中空字符的常用方法小结
2015/03/17 PHP
关于PHP文件的自动运行方法分析
2016/05/13 PHP
php+jQuery+Ajax简单实现页面异步刷新
2016/08/08 PHP
PHP获取中国时间(上海时区时间)及美国时间的方法
2017/02/23 PHP
PHP call_user_func和call_user_func_array函数的简单理解与应用分析
2019/11/25 PHP
收集的10个免费的jQuery相册
2011/02/26 Javascript
JS解决url传值出现中文乱码的另类办法
2013/04/08 Javascript
Json序列化和反序列化方法解析
2013/12/19 Javascript
js 阻止子元素响应父元素的onmouseout事件具体实现
2013/12/23 Javascript
jquery果冻抖动效果实现方法
2015/01/15 Javascript
深入理解JavaScript中的箭头函数
2015/07/28 Javascript
Bootstrap Metronic完全响应式管理模板学习笔记
2016/07/08 Javascript
Angularjs中的页面访问权限怎么设置
2016/11/11 Javascript
AJAX和jQuery动态加载数据的实现方法
2016/12/05 Javascript
angular+ionic 的app上拉加载更新数据实现方法
2017/01/16 Javascript
JavaScript运动框架 解决防抖动问题、悬浮对联(二)
2017/05/17 Javascript
微信小程序版本自动更新的方法
2019/06/14 Javascript
js实现固定区域内的不重叠随机圆
2019/10/24 Javascript
Python删除指定目录下过期文件的2个脚本分享
2014/04/10 Python
python获取目录下所有文件的方法
2015/06/01 Python
python使用pymongo操作mongo的完整步骤
2019/04/13 Python
django项目登录中使用图片验证码的实现方法
2019/08/15 Python
python实现LRU热点缓存及原理
2019/10/29 Python
使用Django xadmin 实现修改时间选择器为不可输入状态
2020/03/30 Python
深入理解HTML的FormData对象
2016/05/17 HTML / CSS
BASIC HOUSE官方旗舰店:韩国著名的服装品牌
2018/09/27 全球购物
四风问题自我剖析材料
2014/10/07 职场文书
四风问题自查自纠工作情况报告
2014/10/28 职场文书
2015年党风建设工作总结
2015/04/29 职场文书
2016年寒假学习心得体会
2015/10/09 职场文书
2016年学校爱国卫生月活动总结
2016/04/06 职场文书
oracle连接ODBC sqlserver数据源的详细步骤
2021/07/25 Oracle
SQL SERVER触发器详解
2022/02/24 SQL Server
排查并解决Oracle sysaux表空间异常增长
2022/04/20 Oracle