Node使用Selenium进行前端自动化操作的代码实现


Posted in Javascript onOctober 10, 2019

前言:

最近项目中有类似的需求:需要对前端项目中某一个用户下的产品数据进行批量的处理。手动处理的流程大概是首先登录系统,获取到当前用户下的产品列表,点击产品列表的中产品项进入详情页,对该产品进行一系列的操作,然后保存退出。因为当前有20多万条数据,手动一条一条的处理不太现实,所以希望通过写脚本的方式来进行处理。

需求分析

其实这个需求还算比较简单,需要实现的点主要有三个,一是如何进行登录,获取登录信息,查询当前用户下的产品数据;二是如何知道当前数据是否处理完,然后退出当前的处理流程;三是如何异步的处理一批数据。

所以需要做的工作就是模拟登录,调用产品列表的查询接口获取产品ID集合,然后循环遍历当前的集合,通过产品ID跳转产品详情页面,模拟页面按钮的点击操作,监听处理完成的动作,退出当前的流程。

Selenium 介绍

What is Selenium?
Selenium automates browsers. That's it! What you do with that power is entirely up to you. Primarily, it is for automating web applications for testing purposes, but is certainly not limited to just that. Boring web-based administration tasks can (and should!) be automated as well.
Selenium has the support of some of the largest browser vendors who have taken (or are taking) steps to make Selenium a native part of their browser. It is also the core technology in countless other browser automation tools, APIs and frameworks.

翻译过来大致意思就是: Selenium 可以自动化操作浏览器。怎么去使用Selenium 的功能完全取决于我们自己。它主要还是使用在web应用的自动化测试上。但是他的功能并不仅限于此。那些枯燥的基于web的管理任务也可以自动化。很多流行的浏览器都采取了一些措施来支持Selenium实现本地化。它也是很多浏览器自动化工具、API自动化以及框架的核心技术。

Selenium 主要分 Selenium WebDriver 以及 Selenium IDE。我主要结合Node来介绍 Selenium WebDriver 的安装使用。本文主要介绍Selenium 结合 Node 的安装使用。需要进行深入研究的同学请自行查看官网文档。

Node 环境搭建

1. node的安装在此不再赘述。点击链接查看官网下载安装方法。
2. express安装

$ npx express-generator

或者

$ npm install -g express-generator

创建项目:

$ express --view=ejs selenium-start
$ cd selenium-start
$ yarn

启动项目:

$ DEBUG=myapp:* yarn start

至此,Node 项目创建完毕。接下来我们就可以在项目中集成Selenium WebDriver

Selenium WebDriver 集成

1. 安装selenium-webdriver

yarn add selenium-webdriver

2. 下载安装支持不同浏览器的驱动。(此处只介绍Chrome驱动)

[ChromeDriver][3]
下载并解压文件,同时把解压的执行文件放置到 /usr/bin目录下。或者设置相应的PATH路径,确保可执行文件在PATH路径中。

开始使用

进入我们刚才创建的项目文件夹,目录如下:

Node使用Selenium进行前端自动化操作的代码实现

页面添加一个开始按钮,以及给按钮添加事件。

找到 views/index.ejs, 添加如下代码:(为了方便操作,引入了jquery, axios, 所以需要下载准备好)

Node使用Selenium进行前端自动化操作的代码实现

Node使用Selenium进行前端自动化操作的代码实现

添加对应的路由

Node使用Selenium进行前端自动化操作的代码实现

在app.js文件中,引入路由chromeDriver

var chromeDriverRouter = require('./routes/chromeDriver');
 app.use('/chromeDriver', chromeDriverRouter);

引入selenium-webdriver

在routes/chromeDirver.js文件中,我们添加了一个方法handleBaiDuDriver,这个方法用于处理模拟百度搜索自动化的一些测试。

首先我们需要在文件顶部引入selenium-webdriver

const {Builder, By, Key, until} = require('selenium-webdriver');

 // Builder: 用于创建一个WebDriver实例。
 // By: 表示通过什么方式来查找页面的元素。
   // By.className( name ) → By
   // By.css( selector ) → By
   // By.id( id ) → By
   // By.js( script, ...var_args ) → function(WebDriver): Promise
   // By.linkText( text ) → By
   // By.name( name ) → By
   // By.partialLinkText( text ) → By
 // Key: 表示键盘上一系列的按键。
 // until: 定义了一些工具类的方法。

然后书写我们的方法体里的内容。

const handleBaiDuDriver = async () => {
   let driver = await new Builder().forBrowser('chrome').build();
   try {
     await driver.get('http://www.baidu.com');
 
     await driver.findElement(By.id('kw')).sendKeys('webdriver', Key.RETURN);//正常使用
 
     await driver.findElement(By.id('su')).click();
 
     await driver.wait(until.titleIs('百度一下,你就知道'), 1000);
     
   } catch (error) {
     console.log(error)
   } finally {
     await driver.sleep(2000);
     await driver.quit();
   }
 }

启动服务,查看效果。

启动服务之后,我梦能看到如下的界面。

Node使用Selenium进行前端自动化操作的代码实现

点击页面中的【点击开始】按钮,最终能够看到如下的界面,为了演示我做了两秒的延迟。生成的gif图有9M多,无法上传。后续可以下载源码运行看效果。

Node使用Selenium进行前端自动化操作的代码实现

获取登录信息

以上是selenium-webdriver的简单集成。在之前我们提到过实际需求中如何获取登录信息的问题。在访问产品列表页面的时候需要进行登录校验。如果没有登录则会跳转界面。由于我们的登录页是通过iframe来嵌套引入的。由于暂时还没有了解如何处理iframe里的操作,所以没法去模拟用户名密码的输入。

查看API文档,WebDriver 会有一个manage方法:

this.manage() → Options

该方法会返回一个Options实例,具有如下的方法:

Node使用Selenium进行前端自动化操作的代码实现

其中有对cookie的操作方法。所以可以通过首次输入用户信息并进行缓存的方式来实现登录态的保存。在下一次再打开页面的时候直接从缓存里获取cookie信息,并通过addCookie方法进行cookie的设置。但是由于我不知道什么时候、多长时间登录才会成功,所以在获取cookie的时候需要通过不断循环的方式去获取,直到拿到cookie。当然可以设置一个超时时间。超时之后就退出当前driver。

// 缓存cookie
 async function setCookies(driver) {
   const manage = driver.manage();
   let sleepTime = 6000;
   await driver.sleep(sleepTime);
   let cookies = null
   try {
     cookies = await manage.getCookies();  
   } catch (error) {
   }
   while (!cookies || !findSessionIdFromCookies(cookies)) {
     await driver.sleep(2000)
     sleepTime += 2000;
     try {
       cookies = await manage.getCookies();
     } catch (error) {
     }
   }
   if (cookies && findSessionIdFromCookies(cookies)) {
     cache.cookies = cookies; // cache是全局用于缓存cookie的对象
     cache.cookiesStr = cache.cookies.map((cookie) => {
       return `${cookie.name}=${cookie.value}`
     }).join(';');
   }
   return cookies;
 }
 
 
 // 设置cookie
 async function initCookies(driver) {
   const cookies = cache.cookies;
   if (cookies && cookies.length > 0) {
     await driver.manage().deleteAllCookies();
     for (let i = 0 ; i < cookies.length; i++) {
       cookie = cookies[i];
       await driver.manage().addCookie(cookie);    
     };
   }
 }

获取到cookie 信息之后就可以请求产品列表以及通过产品ID进入产品详情页。然后再模拟页面按钮点击操作即可。

Github地址

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
jQuery父级以及同级元素查找介绍
Sep 04 Javascript
Firefox中使用outerHTML的2种解决方法
Jun 07 Javascript
jQuery中:image选择器用法实例
Jan 03 Javascript
Javascript中arguments用法实例分析
Jun 13 Javascript
Angularjs material 实现搜索框功能
Mar 08 Javascript
基于BootStrap Metronic开发框架经验小结【一】框架总览及菜单模块的处理
May 12 Javascript
jquery实现网站列表切换效果的2种方法
Aug 12 Javascript
bootstrap-datetimepicker实现只显示到日期的方法
Nov 25 Javascript
jQuery中animate的几种用法与注意事项
Dec 12 Javascript
angularJs中$http获取后台数据的实例讲解
Aug 08 Javascript
Vue分页器实现原理详解
Jun 28 Javascript
three.js 制作动态二维码的示例代码
Jul 31 Javascript
Vue 开发必须知道的36个技巧(小结)
Oct 09 #Javascript
浅谈vue项目用到的mock数据接口的两种方式
Oct 09 #Javascript
Vue3.0数据响应式原理详解
Oct 09 #Javascript
Vue分页插件的前后端配置与使用
Oct 09 #Javascript
vue3修改link标签默认icon无效问题详解
Oct 09 #Javascript
将RGB值转换为灰度值的简单算法
Oct 09 #Javascript
基于Vue 撸一个指令实现拖拽功能
Oct 09 #Javascript
You might like
深入理解PHP中的Streams工具
2015/07/03 PHP
php如何获取文件的扩展名
2015/10/28 PHP
PHP文件操作之获取目录下文件与计算相对路径的方法
2016/01/08 PHP
数组任意位置插入元素,删除特定元素的实例
2017/03/02 PHP
laravel如何开启跨域功能示例详解
2017/08/31 PHP
Laravel 加载第三方类库的方法
2018/04/20 PHP
在Laravel 中实现是否关注的示例
2019/10/22 PHP
javascript去除字符串中所有标点符号和提取纯文本的正则
2014/06/07 Javascript
jquery实现侧边弹出的垂直导航
2014/12/09 Javascript
Jquery基础教程之DOM操作
2015/08/19 Javascript
js实现可折叠展开的手风琴菜单效果
2015/09/07 Javascript
详解Node.js如何开发命令行工具
2016/08/14 Javascript
jQuery过滤选择器经典应用
2016/08/18 Javascript
JavaScript中在光标处插入添加文本标签节点的详细方法
2017/03/22 Javascript
从零开始学习Node.js系列教程之SQLite3和MongoDB用法分析
2017/04/13 Javascript
bootstrap table使用入门基本用法
2017/05/24 Javascript
angularjs获取到My97DatePicker选中的值方法
2018/10/02 Javascript
详解vuex之store源码简单解析
2019/06/13 Javascript
vue中进行微博分享的实例讲解
2019/10/14 Javascript
使用jQuery实现掷骰子游戏
2019/10/24 jQuery
Django 拆分model和view的实现方法
2019/08/16 Python
Python实现朴素贝叶斯的学习与分类过程解析
2019/08/24 Python
python实现银行实战系统
2020/02/26 Python
python多维数组分位数的求取方式
2020/03/03 Python
StubHub哥伦比亚:购买和出售您的门票
2016/10/20 全球购物
英国设计的甲板鞋和船鞋:Chatham
2018/12/06 全球购物
Vilebrequin美国官方网上商店:法国豪华泳装品牌
2020/02/22 全球购物
饮料业务员岗位职责
2013/12/15 职场文书
物理力学求职信
2014/02/18 职场文书
求职简历自我评价范例
2014/03/12 职场文书
美德少年事迹材料1000字
2014/08/21 职场文书
物流专业专科生职业生涯规划书
2014/09/14 职场文书
大学考试作弊检讨书
2015/05/06 职场文书
525心理健康活动总结
2015/05/08 职场文书
硕士学位申请报告
2015/05/15 职场文书
Requests什么的通通爬不了的Python超强反爬虫方案!
2021/05/20 Python