浅谈node中的cluster集群


Posted in Javascript onJune 02, 2018

结论

虽然平常通过设置为CPU进程数的工作进程,但是可以超过这个数,并且并不是主进程先创建

if (cluster.isMaster) {
 // 循环 fork 任务 CPU i5-7300HQ 四核四进程
 for (let i = 0; i < 6; i++) {
  cluster.fork()
 }
 console.log(chalk.green(`主进程运行在${process.pid}`))
} else {
 app.listen(1314) // export app 一个 Koa 服务器的实例
 console.log(chalk.green(`子进程运行在${process.pid}`))
}
#子进程运行在17768
#子进程运行在5784
#子进程运行在11232
#子进程运行在7904
#主进程运行在12960
#子进程运行在4300
#子进程运行在16056

在主进程中 cluster 表示主进程(用于监听、发送事件), process 是本身的进程,worker 表示子进程,通过 cluster.workers 获取

在子进程中 process 表示子进程(用于监听、发送事件),也可以通过 cluster.worker 表示当前子进程

cluster.worker.process 等价于 process(在子进程中)

主进程子进程相互通信

浅谈node中的cluster集群

  1. cluster 用于监听 process(child) 子进程触发的各种事件
  2. worker 在主进程中获取,用于和自身通信。当子进程触发事件时,会返回当前的 worker 以及相关的信息到主进程相应的事件中
  3. process(parent) 主进程本身的进程实例,在通信过程中基本没有用到
  4. process(child) 子进程本身的实例,只能在子进程获取用于监听自身的事件

可见主进程与子进程通过这样一个三角关系互相通信,其中 cluster 和 worker 是在主进程中获取的,process(child) 是子进程。 cluster 通过操作 worker 通知子进程,子进程本身和 cluster 进行通信。为什么要这样设计呢?因为子进程会有多个,只有通过 worker 才能选择和哪个进程通信

子进程的调度策略 cluster.schedulingPolicy

调度策略,包括循环计数的 cluster.SCHED_RR,以及由操作系统决定的cluster.SCHED_NONE。 这是一个全局设置,当第一个工作进程被衍生或者调动cluster.setupMaster()时,都将第一时间生效。除Windows外的所有操作系统中,SCHED_RR都是默认设置。只要libuv可以有效地分发IOCP handle,而不会导致严重的性能冲击的话,Windows系统也会更改为SCHED_RR。cluster.schedulingPolicy 可以通过设置NODE_CLUSTER_SCHED_POLICY环境变量来实现。这个环境变量的有效值包括"rr" 和 "none"。

RR 即 Round-Robin 轮询调度,即每个子进程的获取的事件的机会是均等的,这是除 windows以外默认的。而 windows 下的调度策略很诡异,见下图。目前并没有相关 API 可以设置调度策略的算法,node 只为我们提供了两个值

浅谈node中的cluster集群

进程调度算法.png

测试数据为 1000次 并发请求,重复测试20次,在windows下的表现情况。可见 windows 的调度算法表现的杂乱无章。如果是 RR 算法四条进程的调度应该处于同一横线上。暂时没在本地搭建 linux 环境,有条件的同学可以协助测试一波。
cluster的调度算法目前至于系统有关

多进程间的鉴权问题

注意:Node.js不支持路由逻辑。因此在设计应用时,不应该过分依赖内存数据对象(如sessions和login等)。由于各工作进程是独立的进程,它们可以根据需要随时关闭或重新生成,而不影响其他进程的正常运行。只要有存活的工作进程,服务器就可以继续处理连接。如果没有存活的工作进程,现有连接会丢失,新的连接也会被拒绝。Node.js不会自动管理工作进程的数量,而应该由具体的应用根据实际需要来管理进程池。

文档中已明确说明了,每一个工作进程都是独立的,并且互相之间除了能够进行通信外,没有办法共享内存。所以在设计鉴权的时候,有两种方法

  1. 通过共有的主进程存储鉴权信息,每次前端提交帐号密码,授权完成后,将 token 发送给主进程,下次前台查询时先在主进程获取授权信息
  2. 通过统一的外部 redis 存取

两种方法看来还是第二种好的不要太多,因此多进程的环境下,应该使用外部数据库统一存储 token 信息

进一步的子进程间通信思考

虽然 node 中并没有直接提供的进程间通讯功能,但是我们可以通过主进程相互协调进程间的通讯功能,需要定义标准的通信格式,例如

interface cmd {
 type: string
 from: number
 to: number
 msg: any
}

这样通过统一的格式,主进程就可以识别来自各个进程间的通信,起到进程通信中枢的功能

egg.js 中 agent 的实现

+--------+     +-------+
        | Master |<-------->| Agent |
        +--------+     +-------+
        ^  ^  ^
        /  |   \
       /   |    \
      /    |     \
     v     v     v
+----------+  +----------+  +----------+
| Worker 1 |  | Worker 2 |  | Worker 3 |
+----------+  +----------+  +----------+

我们看到 egg 在多进程模型之间实现了一个 agent 进程,这个进程主要负责对整个系统的定期维护

说到这里,Node.js 多进程方案貌似已经成型,这也是我们早期线上使用的方案。但后来我们发现有些工作其实不需要每个 Worker 都去做,如果都做,一来是浪费资源,更重要的是可能会导致多进程间资源访问冲突。举个例子:生产环境的日志文件我们一般会按照日期进行归档,在单进程模型下这再简单不过了:

每天凌晨 0 点,将当前日志文件按照日期进行重命名

销毁以前的文件句柄,并创建新的日志文件继续写入

试想如果现在是 4 个进程来做同样的事情,是不是就乱套了。所以,对于这一类后台运行的逻辑,我们希望将它们放到一个单独的进程上去执行,这个进程就叫 Agent Worker,简称 Agent。Agent 好比是 Master 给其他 Worker 请的一个『秘书』,它不对外提供服务,只给 App Worker 打工,专门处理一些公共事务。

这样我们可以指定一个进程作为 agent 进程,用于实现自己定义的事务。在 egg 中,主线程启动后 首先 fork agent进程,当 agent 进程启动完成后再启动具体的 worker 进程。参照上面的代码,相信这部分逻辑现在也不难实现了。这样 agent 就会获得 id 为1的进程

最后

P.S 勘误,图2中的线程应该为进程,独立的nodejs进程

本文相关代码在 github

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
js定义对象或数组直接量时各浏览器对多余逗号的处理(json)
Mar 05 Javascript
Webkit的跨域安全问题说明
Sep 13 Javascript
JavaScript实现统计文本框Textarea字数增强用户体验
Dec 21 Javascript
js实现键盘上下左右键选择文字并显示在文本框的方法
May 07 Javascript
QQ登录背景闪动效果附效果演示源码下载
Sep 22 Javascript
理解Javascript的call、apply
Dec 16 Javascript
jQuery+CSS3+Html5实现弹出层效果实例代码(附源码下载)
May 16 Javascript
vue 表单输入格式化中文输入法异常问题
May 30 Javascript
深入理解Vue 的钩子函数
Sep 05 Javascript
微信小程序获取用户信息并保存登录状态详解
May 10 Javascript
详解Vue.js中引入图片路径的几种方式
Jun 17 Javascript
layui 实现表单和文件上传一起传到后台的例子
Sep 16 Javascript
详解AngularJS 过滤器的使用
Jun 02 #Javascript
简化vuex的状态管理方案的方法
Jun 02 #Javascript
深入了解javascript 数组的sort方法
Jun 01 #Javascript
js 数组详细操作方法及解析合集
Jun 01 #Javascript
vue 中动态绑定class 和 style的方法代码详解
Jun 01 #Javascript
一个简单的node.js界面实现方法
Jun 01 #Javascript
浅析前端路由简介以及vue-router实现原理
Jun 01 #Javascript
You might like
PHP得到某段时间区间的时间戳 php定时任务
2012/04/12 PHP
制作个性化的WordPress登陆界面的实例教程
2016/05/21 PHP
php设计模式之工厂方法模式分析【星际争霸游戏案例】
2020/01/23 PHP
JS前端框架关于重构的失败经验分享
2013/03/17 Javascript
快速学习JavaScript的6个思维技巧
2015/10/13 Javascript
JavaScript的this关键字的理解
2016/06/18 Javascript
jQuery实现的跨容器无缝拖动效果代码
2016/06/21 Javascript
angularjs ui-router中路由的二级嵌套
2017/03/10 Javascript
Angular2实现自定义双向绑定属性
2017/03/22 Javascript
JavaScript数据结构之二叉树的删除算法示例
2017/04/13 Javascript
常用的9个JavaScript图表库详解
2017/12/19 Javascript
深入浅析vue组件间事件传递
2017/12/29 Javascript
this在vue和小程序中的使用详解
2019/01/28 Javascript
详解vue-cli3开发Chrome插件实践
2019/05/29 Javascript
Vue中的循环及修改差值表达式的方法
2019/08/29 Javascript
[01:06:54]DOTA2-DPC中国联赛 正赛 RNG vs Dragon BO3 第一场 1月24日
2021/03/11 DOTA
python连接mysql数据库示例(做增删改操作)
2013/12/31 Python
TensorFlow安装及jupyter notebook配置方法
2017/09/08 Python
Python多线程爬虫实战_爬取糗事百科段子的实例
2017/12/15 Python
python遍历文件夹找出文件夹后缀为py的文件方法
2018/10/21 Python
在Python 中同一个类两个函数间变量的调用方法
2019/01/31 Python
tensorflow 获取所有variable或tensor的name示例
2020/01/04 Python
Python Tornado核心及相关原理详解
2020/06/24 Python
Python3 ffmpeg视频转换工具使用方法解析
2020/08/10 Python
BeautifulSoup中find和find_all的使用详解
2020/12/07 Python
CSS3实现水平居中、垂直居中、水平垂直居中的实例代码
2020/02/27 HTML / CSS
HTML5梦幻之旅——炫丽的流星雨效果实现过程
2013/08/06 HTML / CSS
VELTRA台湾:世界自由行专家
2017/08/15 全球购物
学雷锋志愿服务月活动总结
2014/03/09 职场文书
简单租房协议书(范本)
2014/10/13 职场文书
2015年党员公开承诺书范文
2015/01/22 职场文书
建国大业观后感600字
2015/06/01 职场文书
小学生暑假安全公约
2015/07/14 职场文书
《猴王出世》教学反思
2016/02/23 职场文书
导游词之新疆尼雅遗址
2019/10/16 职场文书
MySQL数据库如何给表设置约束详解
2022/03/13 MySQL