使用nodejs爬取前程无忧前端技能排行


Posted in NodeJs onMay 06, 2017

最近准备换工作,需要更新一下技能树。为做到有的放矢,想对招聘方的要求做个统计。正好之前了解过nodejs,所以做了个爬虫搜索数据。

具体步骤:

1.  先用fiddler分析请求需要的header和body。

2.  再用superagent构建上述数据发送客户端请求。

3.  最后对返回的数据使用cheerio整理。

折腾了几个晚上,只搞出了个架子,剩余工作等有时间再继续开发。

/*使用fiddler抓包,需要配置lan代理,且设置如下参数*/
process.env.https_proxy = "http://127.0.0.1:8888";
process.env.http_proxy = "http://127.0.0.1:8888";
process.env.NODE_TLS_REJECT_UNAUTHORIZED = "0";
/*使用到的模块*/
var request = require('superagent');  //发送客户端请求
require('superagent-proxy')(request);  //使用代理发送请求
var cheerio = require('cheerio');    //以jq类似的方法操作返回的字符,不需要用正则
require('superagent-charset')(request);//node不支持gbk,gb2312,this will add request.Request.prototype.charset.
var async = require('async');      //异步流控制模块
var fs = require('fs');
/*相关参数,通过fiddler抓包后复制过来*/
var ws = fs.createWriteStream('res.html',{flags:'w+'}); //a+追加的读写模式,w+覆盖
var loginUrl = "https://login.51job.com/login.php";
var searchUrl = "http://search.51job.com/jobsearch/search_result.php";
var queryStrings = "fromJs=1&jobarea=020000&keyword=%E5%89%8D%E7%AB%AF%E5%BC%80%E5%8F%91&keywordtype=2&lang=c&stype=2&postchannel=0000&fromType=1&confirmdate=9";
var loginForms = {
  lang: 'c',
  action: 'save',
  from_domain: 'i',
  loginname: '***',  //自己的用户名和密码
  password: '***',
  verifycode: '',
  isread: 'on'
};
var searchForms = {
  lang: 'c',
  stype: '2',
  postchannel: '0000',
  fromType: '1',
  line: '',
  confirmdate: '9',
  from: '',
  keywordtype: '2',
  keyword: '%E5%89%8D%E7%AB%AF%E5%BC%80%E5%8F%91',
  jobarea: '020000',
  industrytype: '',
  funtype: ''
};
var searchFormsString='lang=c&stype=2&postchannel=0000&fromType=1&line=&confirmdate=9&from=&keywordtype=2&keyword=%C7%B0%B6%CB%BF%AA%B7%A2&jobarea=020000&industrytype=&funtype=';
var proxy0 = process.env.https_proxy;
var proxy = process.env.http_proxy;
const agent = request.agent();     //agent()方法产生的实例会保存cookie供后续使用
request.post(loginUrl).proxy(proxy0).send(loginForms).end(function (err,res0) {
  agent.post(searchUrl)
    .proxy(proxy)          //proxy()方法需紧跟在method方法之后调用,否则fiddler抓不到数据包
    .type('application/x-www-form-urlencoded')
    .query(queryStrings)  
//使用字符串格式
    .send(searchFormsString)
    .charset('gbk')        //通过charset可知编码字符格式,不设置会有乱码
    .end(function (err, res) {
      /* 以下是处理返回数据的逻辑代码*/
      var $ = cheerio.load(res.text);  //res.text是返回的报文主体
      async.each($('.el.title').nextAll('.el'), function(v, callback) {
        //将多余的内容删除,保留岗位、公司链接
        $(v).prepend($(v).find('.t1 a'));
        $(v).find('.t1').remove();
        ws.write($.html(v), 'utf8');
      }, function(err) {
        console.log(err);
      });
      console.log('successful');
    })
});
//jquery内置document元素为root,cheerio需要通过load方法传入,然后用选择器查找指定元素,再执行相应操作。
// $.html(el);静态方法,返回el元素的outerHtml
//TODO
// 1.当前只请求到一页数据,还需构建所有页数的请求列表
// 2.向每条数据的岗位链接发送请求,获取技能关键字,存入文件中
// 3.node中io操作是异步的,且没有锁的概念,如何并发地向同一个文件正确地写入数据

结果显示如下:

使用nodejs爬取前程无忧前端技能排行

以上所述是小编给大家介绍的使用nodejs爬前程无忧前端技能排行,希望对大家有所帮助,如果大家有任何疑问欢迎给我留言,小编会及时回复大家的!

NodeJs 相关文章推荐
NodeJS Express框架中处理404页面一个方式
May 28 NodeJs
Nodejs学习笔记之Global Objects全局对象
Jan 13 NodeJs
Nodejs学习item【入门手上】
May 05 NodeJs
学习 NodeJS 第八天:Socket 通讯实例
Dec 21 NodeJs
使用nodejs爬取前程无忧前端技能排行
May 06 NodeJs
nodejs mysql 实现分页的方法
Jun 06 NodeJs
使用nodeJs来安装less及编译less文件为css文件的方法
Nov 20 NodeJs
nodejs实现截取上传视频中一帧作为预览图片
Dec 10 NodeJs
使用nodejs+express实现简单的文件上传功能
Dec 27 NodeJs
深入理解nodejs搭建静态服务器(实现命令行)
Feb 05 NodeJs
nodeJS与MySQL实现分页数据以及倒序数据
Jun 05 NodeJs
在NodeJs中使用node-schedule增加定时器任务的方法
Jun 08 NodeJs
win系统下nodejs环境安装配置
May 04 #NodeJs
Nodejs--post的公式详解
Apr 29 #NodeJs
NodeJs的fs读写删除移动监听
Apr 28 #NodeJs
NodeJs安装npm包一直失败的解决方法
Apr 28 #NodeJs
NodeJs模拟登陆正方教务
Apr 28 #NodeJs
用Nodejs搭建服务器访问html、css、JS等静态资源文件
Apr 28 #NodeJs
Nodejs读取文件时相对路径的正确写法(使用fs模块)
Apr 27 #NodeJs
You might like
繁体中文转换为简体中文的PHP函数
2006/10/09 PHP
基于php判断客户端类型
2016/10/14 PHP
php微信公众号开发之二级菜单
2018/10/20 PHP
JQuery-tableDnD 拖拽的基本使用介绍
2013/07/04 Javascript
javascript检查表单数据是否改变的方法
2013/07/30 Javascript
jquery判断元素是否隐藏的多种方法
2014/05/06 Javascript
2016年最热门的15 款代码语法高亮工具,美化你的代码
2016/01/06 Javascript
Avalon中文长字符截取、关键字符隐藏、自定义过滤器
2016/05/18 Javascript
JS正则表达式判断有效数实例代码
2017/03/13 Javascript
解决vue build打包之后首页白屏的问题
2018/03/06 Javascript
JavaScript 隐性类型转换步骤浅析
2018/03/15 Javascript
vue项目使用微信公众号支付总结及遇到的坑
2018/10/23 Javascript
使用微信SDK自定义分享的方法
2019/07/03 Javascript
百度小程序之间的页面通信过程详解
2019/07/18 Javascript
layui异步加载table表中某一列数据的例子
2019/09/16 Javascript
javascript+css实现进度条效果
2020/03/25 Javascript
el-form 多层级表单的实现示例
2020/09/10 Javascript
React倒计时功能实现代码——解耦通用
2020/09/18 Javascript
[42:36]DOTA2上海特级锦标赛B组败者赛 VG VS Spirit第二局
2016/02/26 DOTA
[01:04:48]VGJ.S vs TNC Supermajor 败者组 BO3 第一场 6.6
2018/06/07 DOTA
Python函数式编程指南(三):迭代器详解
2015/06/24 Python
pandas的唯一值、值计数以及成员资格的示例
2018/07/25 Python
浅谈python写入大量文件的问题
2018/11/09 Python
浅谈python函数调用返回两个或多个变量的方法
2019/01/23 Python
Python实战之制作天气查询软件
2019/05/14 Python
pyhton中__pycache__文件夹的产生与作用详解
2019/11/24 Python
Python实现分数序列求和
2020/02/25 Python
HTML5中微数据概述及在搜索引擎中的使用举例
2013/02/07 HTML / CSS
团员学习总结的自我评价范文
2013/10/14 职场文书
项目资料员岗位职责
2013/12/10 职场文书
投标担保书范文
2014/04/02 职场文书
实践单位评语
2014/04/26 职场文书
应届生求职自荐信
2014/07/04 职场文书
2014副局长群众路线对照检查材料思想汇报
2014/09/22 职场文书
计划生育诚信协议书
2014/11/02 职场文书
职位证明模板
2015/06/23 职场文书