python+selenium+chromedriver实现爬虫示例代码


Posted in Python onApril 10, 2020

下载好所需程序

1.Selenium简介

Selenium是一个用于Web应用程序测试的工具,直接运行在浏览器中,就像真正的用户在操作一样。

2.Selenium安装

方法一:在Windows命令行(cmd)输入pip install selenium即可自动安装,安装完成后,输入pip show selenium可查看当前的版本

python+selenium+chromedriver实现爬虫示例代码

方法二:直接下载selenium包:

selenium下载网址

Pychome安装selenium如果出现无法安装,参考以下博客
解决Pycharm无法使用已经安装Selenium的问题

3.禁止谷歌浏览器自动更新

搜索本地:管理工具-服务-Google自动更新服务-选择禁止

python+selenium+chromedriver实现爬虫示例代码

安装浏览器对应的驱动driver
我这里用的是谷歌,选择对应的驱动版本

驱动的下载地址如下:

http://chromedriver.storage.googleapis.com/index.html

python+selenium+chromedriver实现爬虫示例代码

python+selenium+chromedriver实现爬虫示例代码

win32、win64的都下载win32.zip的

将下载的chromedriver进行解压,并将文件复制或移动到,浏览器快捷方式所在目录。

环境变量配置
1.Python环境配置
2.chromedriver环境配置
3.pychrome的python环境指向自己电脑安装好的python

注意:将下载好的chromewebdriver.exe驱动放在Python的安装路径下的Scripts里面,同时将Scripts路径添加到PATH中,这样每次运行python的时候就会自动加载驱动

代码实现

#已经准备环境:webdriver:Google已经安装好;环境变量配置好;pip install selenium;
#selenium是一个包,包有很多对象,对象有属性,方法。
from selenium import webdriver
browser=webdriver.Chrome()#打开浏览器
url="https://news.qq.com/zt2020/page/feiyan.htm#/global?nojump=1"#获取数据的地址
#请求浏览器内容:请求方式:get,post,token
browser.get(url)
#css选择器,id选择器:#开头,class选择器:.开头,标签选择器:p,span,div。
coronavirus_countent=browser.find_element_by_class_name('d')#定位到class选择器d这个内容
print(coronavirus_countent)#查看内容,session,一种缓存机制,通过浏览器解析,然后缓存的内容
# <selenium.webdriver.remote.webelement.WebElement (session="a1aa22161543b44f599e97b35dbc1ac5", element="fe645993-43cb-46cf-83a7-2488dd3d838a")>
print(coronavirus_countent.text)#查看当前css.class中的d的内容

coronavirus_time=browser.find_element_by_class_name('ml')#定位到class选择器d这个内容
print(coronavirus_time.text)


coronavirus_data=browser.find_element_by_class_name('nowConfirm')#定位到class选择器d这个内容
print("=======")
print(coronavirus_data.text)

print("=====找nowConfirm下面的字内容")
coronavirus_sub=coronavirus_data.find_element_by_class_name('addnum')
print(coronavirus_sub.text)
browser.quit()

到此这篇关于python+selenium+chromedriver实现爬虫示例代码的文章就介绍到这了,更多相关python selenium chromedriver 爬虫内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python实现文件路径和url相互转换的方法
Jul 06 Python
详解python上传文件和字符到PHP服务器
Nov 24 Python
PyQt5实现下载进度条效果
Apr 19 Python
Python离线安装PIL 模块的方法
Jan 08 Python
Python Web框架之Django框架cookie和session用法分析
Aug 16 Python
opencv-python 提取sift特征并匹配的实例
Dec 09 Python
python Tensor和Array对比分析
Jan 08 Python
使用 tf.nn.dynamic_rnn 展开时间维度方式
Jan 21 Python
Python实现密钥密码(加解密)实例详解
Apr 26 Python
使用AJAX和Django获取数据的方法实例
Oct 25 Python
python 对一幅灰度图像进行直方图均衡化
Oct 27 Python
Python高并发和多线程有什么关系
Nov 14 Python
Python3操作读写CSV文件使用包过程解析
Apr 10 #Python
快速解决jupyter启动卡死的问题
Apr 10 #Python
Python操作Jira库常用方法解析
Apr 10 #Python
jupyter notebook 使用过程中python莫名崩溃的原因及解决方式
Apr 10 #Python
jupyter lab的目录调整及设置默认浏览器为chrome的方法
Apr 10 #Python
jupyter notebook 参数传递给shell命令行实例
Apr 10 #Python
调整Jupyter notebook的启动目录操作
Apr 10 #Python
You might like
PHP生成等比缩略图类和自定义函数分享
2014/06/25 PHP
PHP扩展模块memcached长连接使用方法分析
2014/12/24 PHP
php图片上传类 附调用方法
2016/05/15 PHP
php格式化时间戳
2016/12/17 PHP
php生出随机字符串
2017/07/06 PHP
ThinkPHP5.1框架页面跳转及修改跳转页面模版示例
2019/05/06 PHP
PHP基于timestamp和nonce实现的防止重放攻击方案分析
2019/07/26 PHP
[JS]点出统计器
2020/10/11 Javascript
JavaScript Prototype对象
2009/01/07 Javascript
在javascript将NodeList作为Array数组处理的方法
2010/07/09 Javascript
Javascript跨域请求的4种解决方式
2013/03/17 Javascript
JS去除右边逗号的简单方法
2013/07/03 Javascript
JavaScript中split() 使用方法汇总
2015/04/17 Javascript
基于jQuery实现的旋转彩圈实例
2015/06/26 Javascript
javascript动态获取登录时间和在线时长
2016/02/25 Javascript
Boostrap基础教程之JavaScript插件篇
2016/09/08 Javascript
详解Vue底部导航栏组件
2019/05/02 Javascript
react 中父组件与子组件双向绑定问题
2019/05/20 Javascript
小程序分页实践之编写可复用分页组件
2019/07/18 Javascript
[06:15]2016国际邀请赛中国区预选赛单车采访:我顶WINGS
2016/06/27 DOTA
Python 通过pip安装Django详细介绍
2017/04/28 Python
python使用Matplotlib画条形图
2020/03/25 Python
python中的for循环
2018/09/28 Python
Python+Selenium使用Page Object实现页面自动化测试
2019/07/14 Python
在jupyter notebook 添加 conda 环境的操作详解
2020/04/10 Python
python3中sys.argv的实例用法
2020/04/24 Python
python 进制转换 int、bin、oct、hex的原理
2021/01/13 Python
卡西欧G-SHOCK英国官网: 防水防震手表
2018/01/08 全球购物
澳大利亚在线划船、露营和钓鱼商店:BCF Australia
2020/03/22 全球购物
shell程序中如何注释
2012/02/17 面试题
工程总经理工作职责
2013/12/09 职场文书
工作失误检讨书范文大全
2014/01/13 职场文书
教师节活动主持词
2014/04/02 职场文书
学校党员个人问题整改措施思想汇报
2014/10/08 职场文书
党纪处分决定书
2015/06/24 职场文书
Python基础之字符串格式化详解
2021/04/21 Python