深入剖析Node.js cluster模块


Posted in Javascript onMay 23, 2018

cluster模块概览

node实例是单线程作业的。在服务端编程中,通常会创建多个node实例来处理客户端的请求,以此提升系统的吞吐率。对这样多个node实例,我们称之为cluster(集群)。

借助node的cluster模块,开发者可以在几乎不修改原有项目代码的前提下,获得集群服务带来的好处。

集群有以下两种常见的实现方案,而node自带的cluster模块,采用了方案二。

方案一:多个node实例+多个端口

集群内的node实例,各自监听不同的端口,再由反向代理实现请求到多个端口的分发。

  1. 优点:实现简单,各实例相对独立,这对服务稳定性有好处。
  2. 缺点:增加端口占用,进程之间通信比较麻烦。

方案二:主进程向子进程转发请求

集群内,创建一个主进程(master),以及若干个子进程(worker)。由master监听客户端连接请求,并根据特定的策略,转发给worker。

  1. 优点:通常只占用一个端口,通信相对简单,转发策略更灵活。
  2. 缺点:实现相对复杂,对主进程的稳定性要求较高。

入门实例

在cluster模块中,主进程称为master,子进程称为worker。

例子如下,创建与CPU数目相同的服务端实例,来处理客户端请求。注意,它们监听的都是同样的端口。

// server.js
var cluster = require('cluster');
var cpuNums = require('os').cpus().length;
var http = require('http');

if(cluster.isMaster){
 for(var i = 0; i < cpuNums; i++){
  cluster.fork();
 }
}else{
 http.createServer(function(req, res){
  res.end(`response from worker ${process.pid}`);
 }).listen(3000);

 console.log(`Worker ${process.pid} started`);
}

创建批处理脚本:./req.sh。

#!/bin/bash

# req.sh
for((i=1;i<=4;i++)); do  
 curl http://127.0.0.1:3000
 echo ""
done

输出如下。可以看到,响应来自不同的进程。

response from worker 23735
response from worker 23731
response from worker 23729
response from worker 23730

cluster模块实现原理

了解cluster模块,主要搞清楚3个问题:

  1. master、worker如何通信?
  2. 多个server实例,如何实现端口共享?
  3. 多个server实例,来自客户端的请求如何分发到多个worker?

下面会结合示意图进行介绍,源码级别的介绍,可以参考 笔者的github。

问题1:master、worker如何通信

这个问题比较简单。master进程通过 cluster.fork() 来创建 worker进程。cluster.fork() 内部 是通过 child_process.fork() 来创建子进程。

也就是说:

  1. master进程、worker进程是父、子进程的关系。
  2. master进程、woker进程可以通过IPC通道进行通信。(重要)

问题2:如何实现端口共享

在前面的例子中,多个woker中创建的server监听了同个端口3000。通常来说,多个进程监听同个端口,系统会报错。

为什么我们的例子没问题呢?

秘密在于,net模块中,对 listen() 方法进行了特殊处理。根据当前进程是master进程,还是worker进程:

  1. master进程:在该端口上正常监听请求。(没做特殊处理)
  2. worker进程:创建server实例。然后通过IPC通道,向master进程发送消息,让master进程也创建 server 实例,并在该端口上监听请求。当请求进来时,master进程将请求转发给worker进程的server实例。

归纳起来,就是:master进程监听特定端口,并将客户请求转发给worker进程。

如下图所示:

深入剖析Node.js cluster模块

问题3:如何将请求分发到多个worker

每当worker进程创建server实例来监听请求,都会通过IPC通道,在master上进行注册。当客户端请求到达,master会负责将请求转发给对应的worker。

具体转发给哪个worker?这是由转发策略决定的。可以通过环境变量NODE_CLUSTER_SCHED_POLICY设置,也可以在cluster.setupMaster(options)时传入。

默认的转发策略是轮询(SCHED_RR)。

当有客户请求到达,master会轮询一遍worker列表,找到第一个空闲的worker,然后将该请求转发给该worker。

master、worker内部通信小技巧

在开发过程中,我们会通过 process.on('message', fn) 来实现进程间通信。

前面提到,master进程、worker进程在server实例的创建过程中,也是通过IPC通道进行通信的。那会不会对我们的开发造成干扰呢?比如,收到一堆其实并不需要关心的消息?

答案肯定是不会?那么是怎么做到的呢?

当发送的消息包含cmd字段,且改字段以NODE_作为前缀,则该消息会被视为内部保留的消息,不会通过message事件抛出,但可以通过监听'internalMessage'捕获。

以worker进程通知master进程创建server实例为例子。worker伪代码如下:

// woker进程
const message = {
 cmd: 'NODE_CLUSTER',
 act: 'queryServer'
};
process.send(message);

master伪代码如下:

worker.process.on('internalMessage', fn);

相关链接

官方文档:https://nodejs.org/api/cluster.html

Node学习笔记:https://github.com/chyingp/nodejs-learning-guide

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
使用javascript访问XML数据的实例
Dec 27 Javascript
jQuery.query.js 取参数的两点问题分析
Aug 06 Javascript
jquery插件制作 图片走廊 gallery
Aug 17 Javascript
javascript利用控件对windows的操作实现原理与应用
Dec 23 Javascript
Extjs NumberField后面加单位实现思路
Jul 30 Javascript
自己用jQuery写了一个图片的马赛克消失效果
May 04 Javascript
JS实现图片产生波纹一样flash效果的方法
Feb 27 Javascript
探究JavaScript函数式编程的乐趣
Dec 14 Javascript
jQuery轻松实现表格的隔行变色和点击行变色的实例代码
May 09 Javascript
bootstrap导航栏、下拉菜单、表单的简单应用实例解析
Jan 06 Javascript
Node.js  事件循环详解及实例
Aug 06 Javascript
JavaScript实现瀑布流布局的3种方式
Dec 27 Javascript
Node.js进阶之核心模块https入门
May 23 #Javascript
使用 vue-i18n 切换中英文效果
May 23 #Javascript
centos 上快速搭建ghost博客方法分享
May 23 #Javascript
20个最常见的jQuery面试问题及答案
May 23 #jQuery
AngularJS与BootStrap模仿百度分页的示例代码
May 23 #Javascript
jQuery发请求传输中文参数乱码问题的解决方案
May 22 #jQuery
vue的传参方式汇总和router使用技巧
May 22 #Javascript
You might like
使用adodb lite解决问题
2006/12/31 PHP
PHP网站备份程序代码分享
2011/06/10 PHP
用PHP实现浏览器点击下载TXT文档的方法详解
2013/06/02 PHP
Zend Framework入门教程之Zend_Mail用法示例
2016/12/08 PHP
PHP文件系统管理(实例讲解)
2017/09/19 PHP
PHP unset函数原理及使用方法解析
2020/08/14 PHP
Ajax,UTF-8还是GB2312 eval 还是execScript
2008/11/13 Javascript
WordPress 照片lightbox效果的运用几点
2009/06/22 Javascript
浏览器的JavaScript引擎的识别方法
2013/10/20 Javascript
js定时器(执行一次、重复执行)
2014/03/07 Javascript
教你用AngularJS框架一行JS代码实现控件验证效果
2014/06/23 Javascript
js中的事件捕捉模型与冒泡模型实例分析
2015/01/10 Javascript
node.js连接mongoDB数据库 快速搭建自己的web服务
2016/04/17 Javascript
JS实现动画兼容性的transition和transform实例分析
2016/12/13 Javascript
微信小程序 JS动态修改样式的实现代码
2017/02/10 Javascript
Node.js数据库操作之查询MySQL数据库(二)
2017/03/04 Javascript
vue 使用自定义指令实现表单校验的方法
2018/08/28 Javascript
Vue全局loading及错误提示的思路与实现
2019/08/09 Javascript
node.js事件轮询机制原理知识点
2019/12/22 Javascript
[02:17]快乐加倍!DOTA2食人魔魔法师至宝+迎霜节活动上线
2019/12/22 DOTA
Python计算三角函数之asin()方法的使用
2015/05/15 Python
详解Python map函数及Python map()函数的用法
2017/11/16 Python
详解pyenv下使用python matplotlib模块的问题解决
2018/11/29 Python
Python爬取智联招聘数据分析师岗位相关信息的方法
2019/08/13 Python
Python网络编程之使用TCP方式传输文件操作示例
2019/11/01 Python
python列表生成器迭代器实例解析
2019/12/19 Python
Python读取csv文件实例解析
2019/12/30 Python
keras实现多种分类网络的方式
2020/06/11 Python
如何保障Web服务器安全
2014/05/05 面试题
创业计划书中要认真思考的问题
2013/12/28 职场文书
酒店总经理助理职责
2014/02/12 职场文书
社团活动总结范文
2014/04/26 职场文书
教师节演讲稿
2014/05/06 职场文书
Java基础-封装和继承
2021/07/02 Java/Android
ElementUI实现el-form表单重置功能按钮
2021/07/21 Javascript
让JavaScript代码更加精简的方法技巧
2022/06/01 Javascript