多进程 & Cluster

[yaofly2012]

多进程

科普进程，线程

Nodejs模型

Nodejs如何实现多进程

多进程通讯

JS执行是单线程的，也就说虽然可以创建多个进程，但是每个进程只有一个线程。

[yaofly2012]

Cluster

背景

Node.js是一个单线程单进程模型。
优点：模型简单，可以减少进线程之间的切换导致的性能开销,并且不用考虑锁和线程池的问题
缺点：无法充分利用多核CPU能力。

概念

关于Cluster的描述：

1. The cluster mode allows networked Node.js applications (http(s)/tcp/udp server) to be scaled across all CPUs available, without any code modifications

2. Clusters of Node.js processes can be used to run multiple instances of Node.js that can distribute workloads among their application threads.

3. The cluster module allows easy creation of child processes that all share server ports.

使用Cluster模块可以方便的创建共享服务端口的子进程，一般用于http(s)/tcp/udp服务。
Cluster直译过来就是“集群”，但更准确的说应该是进程集群（不要跟应用集群混淆了）。

进程分为主进程和子进程：

1. Master进程：负责调度，管理worker进程以及监控worker进程运行状态。
2. Worker进程：负责具体的业务处理。

基本能力

1. 创建worker进程
2. IPC通信

• master与worker
• worker与worker 只能通过master进程间接通信

高阶能力

1. 共享端口
2. worker调度

• RR（轮询）（默认，除了windows）
• SS（共享socket)

不提供能力

Cluster只是提供了创建，关闭子进程以及监听子进程状态的相关方法和事件。不负责具体怎么关闭子进程，这个让开发自己决定如何管理子进程，所以在代码里我们要手动分别写主进程和worker进程逻辑，一般这样：

const cluster = require('cluster');

if (cluster.isMaster) {
  // master进程逻辑
} else {
  // worker进程逻辑
}

注意：

1. 每个进程都是执行相同的JS文件，源码里要区分Master和Worker进程。
2. 使用PM2 Cluster模式可以以更优雅的方式书写多进程代码

API

cluster和worker的事件名称很多一样的，并且有些事件来自net.Server(listening)

事件名称	cluster	worer	备注
listening	Y	Y	源自net.Server
online	Y	Y
message	Y	Y
disconnect	Y	Y
exit	Y	Y
setup	Y	N
error	N	Y	源自child_process.fork()

Worker

1. dead ? 表示worker是否终止了
2. connected ? 表示worker是否跟master进程建立IPC连接

为啥需要Cluster ?

以更简单的方式实现http(s)/tcp/udp多进程服务。也可以使用child_process模块现实，但是代码量就大很多。
用child_process模块简单现实子进程共享端口和master进程分发请求：

// master.js
const childProcess = require('child_process')
const net = require('net')
const cpus = require('os').cpus().length;
const path = require('path');

const workers = [];
for (let i = 0; i < cpus; i++) {
  const worker = childProcess.fork(path.join(__dirname, './worker.js'));
  workers[i] = worker;
  createChildProcess(i);
}

const tcpServer = net.createServer()

let workerId = 0
tcpServer.on('connection', socket => {
  // 轮询方式分发请求给worker
  const worker = workers[workerId++ % cpus];
  worker.send('socket', socket);
  socket.on('error', e => {
    console.error(`socket.onError`, e);
  })
})

tcpServer.listen(8089, err => {
  console.log('master and workers is ok!');
});

// worker.js
process.on('message', (msg, socket) => {
  if (msg !== 'socket') return;
  socket.end(`handle by worker: ${process.pid}`);
})

如何共享端口的 ？

1. master进程里并没有显示的创建HTTP服务，那是如何监听请求的？
2. master进程可以创建多少服务？
3. 客户端是跟主进程还是worker进程建立连接的（即跟谁发生HTTP握手的）？

Master 进程创建一个Socket并绑定监听到该目标端口，通过与子进程之间建立IPC通道之后，通过调用子进程的send方法，将 Socket（链接句柄）传递过去

剖析

worker进程可以执行server.listen方法，却没有报端口已被占用？！

图摘自Node.js：cluster原理简析

cluster模块是如此简单

'use strict';

const childOrPrimary = 'NODE_UNIQUE_ID' in process.env ? 'child' : 'primary';
module.exports = require(`internal/cluster/${childOrPrimary}`);

Server.prototype.listen实现（认真读读）

worker进程创建了net.Server实例server，但是调用server.onconnection方法方式变化了。
一般进程中net.Server.prototype.onconnection调用流程：

1. nodejs在C++底层监听到连接
2. 调用JS层的net.Server.prototype.onconnection函数。

worker进程中net.Server.prototype.onconnection调用流程：

1. nodejs在C++底层监听到连接
2. 调用主进程JS层的net.Server.prototype.onconnection函数
3. 主进程通过策略选择合适的worker进程，并程触发newconn事件（把socket句柄传给worker进程）；
4. worker进程响应newconn，并调用worker进程里net.Server实例的onconnection方法。

调度策略

非window操作系统中cluster模块默认采用RoundRobin（RR）调度策略。

1. RR策略

主进程的net.Server实例的onconnection被重写。
round_robin_handle代码片段：

this.handle.onconnection = (err, handle) => this.distribute(err, handle);

即主进程的net.Server实例只负责分发请求，并且透传参数。

2. （Shared Socket）SS策略

共享socket策略。子进程创建的TCP服务器会在底层侦听端口并处理响应。
但是如何避免共享端口报错呢？
在C++层设置端口的SO_REUSEADDR选项，由操作系统内核来进行调度。

参考

1. nodejs cluster
2. Node.js：cluster原理简析
3. Node.js--cluster原理分析
4. cluster是怎样开启多进程的，并且一个端口可以被多个 进程监听吗？
5. 通过Node.js的Cluster模块源码，深入PM2原理