基于nodejs 的多页面爬虫实例代码


Posted in NodeJs onMay 31, 2017

前言

前端时间再回顾了一下node.js,于是顺势做了一个爬虫来加深自己对node的理解。

主要用的到是request,cheerio,async三个模块

request

用于请求地址和快速下载图片流。 https://github.com/request/request

cheerio

为服务器特别定制的,快速、灵活、实施的jQuery核心实现.

便于解析html代码。 https://www.npmjs.com/package/cheerio

async

异步调用,防止堵塞。 http://caolan.github.io/async/

核心思路

  1. 用request 发送一个请求。获取html代码,取得其中的img标签和a标签。
  2. 通过获取的a表情进行递归调用。不断获取img地址和a地址,继续递归
  3. 获取img地址通过request(photo).pipe(fs.createWriteStream(dir + “/” + filename));进行快速下载。
function requestall(url) {

 request({

  uri: url,

  headers: setting.header

 }, function (error, response, body) {

  if (error) {

   console.log(error);

  } else {

   console.log(response.statusCode);

   if (!error && response.statusCode == 200) {

    var $ = cheerio.load(body);

    var photos = [];

    $('img').each(function () {

     // 判断地址是否存在

     if ($(this).attr('src')) {

      var src = $(this).attr('src');

      var end = src.substr(-4, 4).toLowerCase();

      if (end == '.jpg' || end == '.png' || end == '.jpeg') {

       if (IsURL(src)) {

        photos.push(src);

       }

      }

     }

    });

    downloadImg(photos, dir, setting.download_v);

    // 递归爬虫

    $('a').each(function () {

     var murl = $(this).attr('href');

     if (IsURL(murl)) {

      setTimeout(function () {

       fetchre(murl);

      }, timeout);

      timeout += setting.ajax_timeout;

     } else {

      setTimeout(function () {

       fetchre("http://www.ivsky.com/" + murl);

      }, timeout);

      timeout += setting.ajax_timeout;

     }

    })

   }

  }

 });

}

防坑

1.在request通过图片地址下载时,绑定error事件防止爬虫异常的中断。

2.通过async的mapLimit限制并发。

3.加入请求报头,防止ip被屏蔽。

4.获取一些图片和超链接地址,可能是相对路径(待考虑解决是否有通过方法)。

function downloadImg(photos, dir, asyncNum) {

 console.log("即将异步并发下载图片,当前并发数为:" + asyncNum);

 async.mapLimit(photos, asyncNum, function (photo, callback) {

  var filename = (new Date().getTime()) + photo.substr(-4, 4);

  if (filename) {

   console.log('正在下载' + photo);

   // 默认

   // fs.createWriteStream(dir + "/" + filename)

   // 防止pipe错误

   request(photo)

    .on('error', function (err) {

     console.log(err);

    })

    .pipe(fs.createWriteStream(dir + "/" + filename));

   console.log('下载完成');

   callback(null, filename);

  }

 }, function (err, result) {

  if (err) {

   console.log(err);

  } else {

   console.log(" all right ! ");

   console.log(result);

  }

 })

}

测试:

基于nodejs 的多页面爬虫实例代码

可以感觉到速度还是比较快的。

基于nodejs 的多页面爬虫实例代码 

完整地址。https://github.com/hua1995116/node-crawler/

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

NodeJs 相关文章推荐
NodeJS学习笔记之网络编程
Aug 03 NodeJs
nodejs实现遍历文件夹并统计文件大小
May 28 NodeJs
深入浅析NodeJs并发异步的回调处理
Dec 21 NodeJs
详解nodejs微信公众号开发——1.接入微信公众号
Apr 10 NodeJs
ajax +NodeJS 实现图片上传实例
Jun 06 NodeJs
NodeJS 实现手机短信验证模块阿里大于功能
Jun 19 NodeJs
nodeJS(express4.x)+vue(vue-cli)构建前后端分离实例(带跨域)
Jul 05 NodeJs
用nodejs实现json和jsonp服务的方法
Aug 25 NodeJs
nodejs实现解析xml字符串为对象的方法示例
Mar 14 NodeJs
nodejs基于express实现文件上传的方法
Mar 19 NodeJs
nodejs用gulp管理前端文件方法
Jun 24 NodeJs
nodejs 使用http进行post或get请求的实例(携带cookie)
Jan 03 NodeJs
详解nodeJS之路径PATH模块
May 31 #NodeJs
NodeJS实现微信公众号关注后自动回复功能
May 31 #NodeJs
nodejs操作mysql实现增删改查的实例
May 28 #NodeJs
详解nodejs微信jssdk后端接口
May 25 #NodeJs
mac下的nodejs环境安装的步骤
May 24 #NodeJs
Nodejs搭建wss服务器教程
May 24 #NodeJs
Nodejs中Express 常用中间件 body-parser 实现解析
May 22 #NodeJs
You might like
用php和MySql来与ODBC数据连接
2006/10/09 PHP
使用PHP获取网络文件的实现代码
2010/01/01 PHP
PHP中配置IIS7实现基本身份验证的方法
2015/09/24 PHP
Thinkphp框架开发移动端接口(1)
2016/08/18 PHP
thinkPHP5.0框架独立配置与动态配置方法
2017/03/17 PHP
javascript类继承机制的原理分析
2009/09/12 Javascript
AMD异步模块定义介绍和Require.js中使用jQuery及jQuery插件的方法
2014/06/06 Javascript
javascript使用正则表达式实现去掉空格之后的字符
2015/02/15 Javascript
nodejs实现遍历文件夹并统计文件大小
2015/05/28 NodeJs
jQuery解决input超多的表单提交
2015/08/10 Javascript
js根据手机客户端浏览器类型,判断跳转官网/手机网站多个实例代码
2016/04/30 Javascript
JS组件Bootstrap Table布局详解
2016/05/27 Javascript
JavaScript数组操作函数汇总
2016/08/05 Javascript
Bootstrap和Angularjs配合自制弹框的实例代码
2016/08/24 Javascript
详解Angular路由 ng-route和ui-router的区别
2017/05/22 Javascript
Cpage.js给组件绑定事件的实现代码
2017/08/31 Javascript
JS获取input[file]的值并显示在页面的实现方法
2018/03/09 Javascript
vue2.0实现移动端的输入框实时检索更新列表功能
2018/05/08 Javascript
vue cli 3.0 使用全过程解析
2018/06/14 Javascript
AngularJS动态生成select下拉框的方法实例
2019/11/17 Javascript
Vue如何获取数据列表展示
2019/12/11 Javascript
jQuery AJAX应用实例总结
2020/05/19 jQuery
解决vue组件销毁之后计时器继续执行的问题
2020/07/21 Javascript
请不要重复犯我在学习Python和Linux系统上的错误
2016/12/12 Python
Python创建普通菜单示例【基于win32ui模块】
2018/05/09 Python
Django 限制用户访问频率的中间件的实现
2018/08/23 Python
Python实现带参数的用户验证功能装饰器示例
2018/12/14 Python
python Django框架实现web端分页呈现数据
2019/10/31 Python
Python BeautifulReport可视化报告代码实例
2020/04/13 Python
IE8下CSS3选择器nth-child() 不兼容问题的解决方法
2016/11/16 HTML / CSS
英文自荐信
2013/12/15 职场文书
《大江保卫战》教学反思
2014/04/11 职场文书
安全保证书怎么写
2015/02/28 职场文书
简单的辞职信范文(2016最新版)
2015/05/12 职场文书
会计实训总结范文
2015/08/03 职场文书
解决sql server 数据库,sa用户被锁定的问题
2021/06/11 SQL Server