深入剖析Node.js cluster模块


Posted in Javascript onMay 23, 2018

cluster模块概览

node实例是单线程作业的。在服务端编程中,通常会创建多个node实例来处理客户端的请求,以此提升系统的吞吐率。对这样多个node实例,我们称之为cluster(集群)。

借助node的cluster模块,开发者可以在几乎不修改原有项目代码的前提下,获得集群服务带来的好处。

集群有以下两种常见的实现方案,而node自带的cluster模块,采用了方案二。

方案一:多个node实例+多个端口

集群内的node实例,各自监听不同的端口,再由反向代理实现请求到多个端口的分发。

  1. 优点:实现简单,各实例相对独立,这对服务稳定性有好处。
  2. 缺点:增加端口占用,进程之间通信比较麻烦。

方案二:主进程向子进程转发请求

集群内,创建一个主进程(master),以及若干个子进程(worker)。由master监听客户端连接请求,并根据特定的策略,转发给worker。

  1. 优点:通常只占用一个端口,通信相对简单,转发策略更灵活。
  2. 缺点:实现相对复杂,对主进程的稳定性要求较高。

入门实例

在cluster模块中,主进程称为master,子进程称为worker。

例子如下,创建与CPU数目相同的服务端实例,来处理客户端请求。注意,它们监听的都是同样的端口。

// server.js
var cluster = require('cluster');
var cpuNums = require('os').cpus().length;
var http = require('http');

if(cluster.isMaster){
 for(var i = 0; i < cpuNums; i++){
  cluster.fork();
 }
}else{
 http.createServer(function(req, res){
  res.end(`response from worker ${process.pid}`);
 }).listen(3000);

 console.log(`Worker ${process.pid} started`);
}

创建批处理脚本:./req.sh。

#!/bin/bash

# req.sh
for((i=1;i<=4;i++)); do  
 curl http://127.0.0.1:3000
 echo ""
done

输出如下。可以看到,响应来自不同的进程。

response from worker 23735
response from worker 23731
response from worker 23729
response from worker 23730

cluster模块实现原理

了解cluster模块,主要搞清楚3个问题:

  1. master、worker如何通信?
  2. 多个server实例,如何实现端口共享?
  3. 多个server实例,来自客户端的请求如何分发到多个worker?

下面会结合示意图进行介绍,源码级别的介绍,可以参考 笔者的github。

问题1:master、worker如何通信

这个问题比较简单。master进程通过 cluster.fork() 来创建 worker进程。cluster.fork() 内部 是通过 child_process.fork() 来创建子进程。

也就是说:

  1. master进程、worker进程是父、子进程的关系。
  2. master进程、woker进程可以通过IPC通道进行通信。(重要)

问题2:如何实现端口共享

在前面的例子中,多个woker中创建的server监听了同个端口3000。通常来说,多个进程监听同个端口,系统会报错。

为什么我们的例子没问题呢?

秘密在于,net模块中,对 listen() 方法进行了特殊处理。根据当前进程是master进程,还是worker进程:

  1. master进程:在该端口上正常监听请求。(没做特殊处理)
  2. worker进程:创建server实例。然后通过IPC通道,向master进程发送消息,让master进程也创建 server 实例,并在该端口上监听请求。当请求进来时,master进程将请求转发给worker进程的server实例。

归纳起来,就是:master进程监听特定端口,并将客户请求转发给worker进程。

如下图所示:

深入剖析Node.js cluster模块

问题3:如何将请求分发到多个worker

每当worker进程创建server实例来监听请求,都会通过IPC通道,在master上进行注册。当客户端请求到达,master会负责将请求转发给对应的worker。

具体转发给哪个worker?这是由转发策略决定的。可以通过环境变量NODE_CLUSTER_SCHED_POLICY设置,也可以在cluster.setupMaster(options)时传入。

默认的转发策略是轮询(SCHED_RR)。

当有客户请求到达,master会轮询一遍worker列表,找到第一个空闲的worker,然后将该请求转发给该worker。

master、worker内部通信小技巧

在开发过程中,我们会通过 process.on('message', fn) 来实现进程间通信。

前面提到,master进程、worker进程在server实例的创建过程中,也是通过IPC通道进行通信的。那会不会对我们的开发造成干扰呢?比如,收到一堆其实并不需要关心的消息?

答案肯定是不会?那么是怎么做到的呢?

当发送的消息包含cmd字段,且改字段以NODE_作为前缀,则该消息会被视为内部保留的消息,不会通过message事件抛出,但可以通过监听'internalMessage'捕获。

以worker进程通知master进程创建server实例为例子。worker伪代码如下:

// woker进程
const message = {
 cmd: 'NODE_CLUSTER',
 act: 'queryServer'
};
process.send(message);

master伪代码如下:

worker.process.on('internalMessage', fn);

相关链接

官方文档:https://nodejs.org/api/cluster.html

Node学习笔记:https://github.com/chyingp/nodejs-learning-guide

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
简单实用的js调试logger组件实现代码
Nov 20 Javascript
JavaScript起点(严格模式深度了解)
Jan 28 Javascript
JS获得QQ号码的昵称,头像,生日的简单实例
Dec 04 Javascript
js 获取、清空input type=&quot;file&quot;的值示例代码
Feb 19 Javascript
JavaScript中的Math.LN2属性用法详解
Jun 12 Javascript
jQuery动态背景图片效果实现方法
Jul 03 Javascript
基于javascript html5实现多文件上传
Mar 03 Javascript
node.js express中app.param的用法详解
Jul 16 Javascript
JS监听事件的叠加和移除功能
Nov 19 Javascript
如何在Express4.x中愉快地使用async的方法
Nov 18 Javascript
简单谈谈offsetleft、offsetTop和offsetParent
Dec 04 Javascript
vue el-table实现递归嵌套的示例代码
Aug 14 Vue.js
Node.js进阶之核心模块https入门
May 23 #Javascript
使用 vue-i18n 切换中英文效果
May 23 #Javascript
centos 上快速搭建ghost博客方法分享
May 23 #Javascript
20个最常见的jQuery面试问题及答案
May 23 #jQuery
AngularJS与BootStrap模仿百度分页的示例代码
May 23 #Javascript
jQuery发请求传输中文参数乱码问题的解决方案
May 22 #jQuery
vue的传参方式汇总和router使用技巧
May 22 #Javascript
You might like
非常好的php目录导航文件代码
2006/10/09 PHP
判断Keep-Alive模式的HTTP请求的结束的实现代码
2011/08/06 PHP
thinkPHP自定义类实现方法详解
2016/11/30 PHP
js 日期转换成中文格式的函数
2009/07/07 Javascript
JQuery的AJAX实现文件下载的小例子
2013/05/15 Javascript
利用cookie记住背景颜色示例代码
2013/11/04 Javascript
jquery mobile动态添加元素之后不能正确渲染解决方法说明
2014/03/05 Javascript
javascript 面向对象封装与继承
2014/11/27 Javascript
10个很棒的jQuery代码片段
2015/09/24 Javascript
jquery插件jquery.LightBox.js实现点击放大图片并左右点击切换效果(附demo源码下载)
2016/02/25 Javascript
JavaScript计算器网页版实现代码分享
2016/07/15 Javascript
JSON与js对象序列化实例详解
2017/03/16 Javascript
Vue实现一个返回顶部backToTop组件
2017/07/25 Javascript
Vue事件修饰符native、self示例详解
2019/07/09 Javascript
vue 集成 vis-network 实现网络拓扑图的方法
2019/08/07 Javascript
layui table 复选框跳页后再回来保持原来选中的状态示例
2019/10/26 Javascript
python进阶教程之循环对象
2014/08/30 Python
Python实现求数列和的方法示例
2018/01/12 Python
python实现猜单词小游戏
2020/05/22 Python
python实现可视化动态CPU性能监控
2018/06/21 Python
对python同一个文件夹里面不同.py文件的交叉引用方法详解
2018/12/15 Python
实时获取Python的print输出流方法
2019/01/07 Python
python安装gdal的两种方法
2019/10/29 Python
Python一行代码解决矩阵旋转的问题
2019/11/30 Python
女士时装鞋:Chinese Laundry
2018/08/29 全球购物
瑞典度假品牌:OAS
2019/05/28 全球购物
南京某公司笔试题
2013/01/27 面试题
2014年计算机专业个人自我评价
2014/01/19 职场文书
怎么写自荐书范文
2014/02/12 职场文书
大学生心理活动总结
2014/07/04 职场文书
科学发展观标语
2014/10/08 职场文书
团委工作总结2015
2015/04/02 职场文书
机关保密工作承诺书
2015/05/04 职场文书
2015年控辍保学工作总结
2015/05/18 职场文书
element多个表单校验的实现
2021/05/27 Javascript
Java 常见的限流算法详细分析并实现
2022/04/07 Java/Android