深入浅出了解Node.js Streams


Posted in Javascript onMay 27, 2019

什么是流(steams)

流(stream)是 Node.js 中处理流式数据的抽象接口。

Streams 不是 Node.js 独有的概念。它们是几十年前在 Unix 操作系统中引入的。

它们能够以一种有效的方式来处理文件的读、写,网络通信或任何类型的端到端信息交换。
例如,当你编写了一段程序用来读取文件时,传统的方法是将文件从头到尾读入内存,然后再进行处理。而使用流的话,你就可以逐块读取它,处理其内容而不将其全部保存在内存中。
以如下代码为例

const fs = require('fs');
const rs = fs.createReadStream('test.md');
let data = '';
rs.on("data", function (chunk) {
data += chunk;
});
rs.on("end", function() {
console.log(data);
});

利用 createReadStream 创建一个读取数据的流,来读取 test.md 文件的内容,此时监听 data 事件,它是在当流将数据块传送给消费者后触发。并在对应的 eventHandler 中,拼接 chunk。在 end 事件中,打印到终端上。
之前说流,可以逐块读取文件内容,那么这个块,也就是 chunk 是什么?
一般情况下是 Buffer,修改 data 事件的 eventHandler 来验证下

rs.on("data", function (chunk) {
console.log("chunk", Buffer.isBuffer(chunk)) // log true
data += chunk;
});

流的工作方式可以具体的表述为,在内存中准备一段 Buffer,然后在 fs.read() 读取时逐步从磁盘中将字节复制到 Buffer 中。

为什么要使用 Stream

利用 Stream 来处理数据,主要是因为它的两个优点:

内存效率:在够处理数据之前,不需要占用大量内存;

时间效率:处理数据花费的时间更少,因为流是逐块来处理数据,而不是等到整个数据有效负载才启动。

首先内存效率,与 fs.readFile 这种会缓冲整个文件相比,流式传输充分地利用 Buffer (超过 8kb)不受 V8 内存控制的特点,利用堆外内存完成高效地传输。相关验证可以参考这篇博文,地址。
时间效率,与 fs.FileSync 相比,有些优势,但是与异步的 fs.readFile 相比,优势不大。

Node.js 中 Stream 的使用

首先用一张图来了解下 Node.js 中有哪些内置的 Stream 接口

深入浅出了解Node.js Streams

图中提供了一些 Node.js 原生的流的示例,有些是可读、写的流。 也有一些是可读写的流,如 TCP sockets、zlib 以及 crypto。

特别注意: 流的读、写与环境是密切相关的。例如 HTTP 响应在客户端上的可读流,但它是服务器上的可写流。同时还需要注意,stdio streams(stdin,stdout,stderr) 在子进程上是相反的流。

使用一个例子来展示流的使用

首先利用如下脚本创建一个比较大的文件(大概 430 MB)

const fs = require('fs');
const file = fs.createWriteStream('test.md');
for(let i=0; i<= 1e6; i++) {
file.write('hello world.\n');
}
file.end();

在当前目录下,启动 http 服务

const http = require('http')
const fs = require('fs')
const server = http.createServer(function (req, res) {
fs.readFile(__dirname + '/test.md', (err, data) => {
res.end(data)
})
})
server.listen(3000)

得到的结果,如图

深入浅出了解Node.js Streams

const http = require('http')
const fs = require('fs')
const server = http.createServer((req, res) => {
const stream = fs.createReadStream(__dirname + '/test.md')
stream.pipe(res)
})
server.listen(3000)

深入浅出了解Node.js Streams

时间减少了 2s 多。这可以解释为,在读取文件内容,并且不需要改变内容的场景下,流能够完成只读取 buffer,然后直接传输,不做额外的转换,避免损耗,提高性能。
上述代码中,应用了 stream.pipe(...) 。它主要是对流进行链式地管道操作,例如

src.pipe(dest1).pipe(dest2)

这样数据流会被自动管理。

如果可读流发生错误,目标可写流不会自动关闭,需要手动关闭所有流以避免内存泄漏。

通常,当你使用 pipe 方法时,就不需要使用事件,但如果场景需要以更灵活、自定义的方式使用流,那么就要考虑事件。

Stream events

在上述例子中,我们使用了可读流的 data 、end 事件来控制文件的读取,它本质上与 pipe 方法相同,例如

# readable.pipe(writable)
readable.on('data', (chunk) => {
writable.write(chunk);
});
readable.on('end', () => {
writable.end();
});

只不过,使用 event 会更加灵活,可控。

深入浅出了解Node.js Streams

图中简单罗列了可读流、可写流的相关事件、方法,其中最重要的是

可读流:

  • data 事件:每当流将一大块数据传递时,就会触发;
  • end 事件:当没有更多数据要从流发出时,就会触发。

可写流:

  • drain 事件:当可以继续写入数据到流时会触发事件;
  • finish 事件:处理完全部数据块之后触发。

流的不同类型

除了上面涉及到的可读、写流之后,还有 Duplex、Transform 两类:

  • Readable :可以接收数据,但不能向其发送数据。当你将数据推送到可读流中时,它会被缓冲,直到消费者开始读取数据;
  • writable :可以发送数据,但不能从中接收;
  • Duplex :即可读也可写;
  • Tranform :与 Duplex 一样是可写又可读的,但它的输出与输入是相关联的。

如何创建一个可读流

这里只做简单介绍,具体见 stream module。

const Stream = require('stream')
const readableStream = new Stream.Readable()
readableStream._read = (size) => {
console.log('read', size)
}

利用 Stream 模块初始化一个可读流,然后向其中发送数据

readableStream.push('hi!')
readableStream.push('ho!')

如何创建一个可写流

为了创建可写流,需要扩展了基本的 Writable 对象,并实现了它的 _write 方法。

const Stream = require('stream')
const writableStream = new Stream.Writable()

实现 _write 方法:

writableStream._write = (chunk, encoding, next) => {
console.log(chunk.toString())
next()
}

结合上述例子实现

利用 readableStream 读入数据,并输出到 writableStream

const Stream = require('stream')
const readableStream = new Stream.Readable()
readableStream._read = (size) => {
console.log('read', size)
}
const writableStream = new Stream.Writable()
writableStream._write = (chunk, encoding, next) => {
console.log('write', chunk.toString())
next()
}
readableStream.pipe(writableStream)
readableStream.push('hi!')
readableStream.push('ho!')
/* 
log:
read 16384
write hi!
write ho!
*/

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Javascript 相关文章推荐
javascript showModalDialog 内跳转页面的问题
Nov 25 Javascript
Javascript继承(上)——对象构建介绍
Nov 08 Javascript
js中复制行和删除行的操作实例
Jun 25 Javascript
jQuery实现类似淘宝购物车全选状态示例
Jun 26 Javascript
jquery+CSS实现的水平布局多级网页菜单效果
Aug 24 Javascript
Bootstrap中CSS的使用方法
Feb 17 Javascript
Vue2.0使用过程常见的一些问题总结学习
Apr 10 Javascript
react-native-video实现视频全屏播放的方法
Mar 19 Javascript
vue实现在线翻译功能
Sep 27 Javascript
小程序实现上下切换位置
Nov 16 Javascript
js实现移动端轮播图滑动切换
Dec 21 Javascript
原生JavaScript实现轮播图
Jan 10 Javascript
JavaScript怎样在删除前添加确认弹出框?
May 27 #Javascript
vue项目前端错误收集之sentry教程详解
May 27 #Javascript
了解javascript中变量及函数的提升
May 27 #Javascript
基于vue实现一个禅道主页拖拽效果
May 27 #Javascript
jQuery实现input输入框获取焦点与失去焦点时提示的消失与显示功能示例
May 27 #jQuery
初学node.js中实现删除用户路由
May 27 #Javascript
jquery实现动态创建form并提交的方法示例
May 27 #jQuery
You might like
mysql 的 like 问题,超强毕杀记!!!
2007/01/18 PHP
php正则表达匹配中文问题分析小结
2012/03/25 PHP
PHP学习笔记(二):变量详解
2015/04/17 PHP
php猜单词游戏
2015/09/29 PHP
yii框架数据库关联查询操作示例
2019/10/14 PHP
jquery使用slideDown实现模块缓慢拉出效果的方法
2015/03/27 Javascript
jquery之别踩白块游戏的简单实现
2016/07/25 Javascript
AngularJS 输入验证详解及实例代码
2016/07/28 Javascript
探索Javascript中this的奥秘
2016/12/11 Javascript
js鼠标移动时禁止选中文字
2017/02/19 Javascript
vue父组件中获取子组件中的数据(实例讲解)
2017/09/27 Javascript
vue中datepicker的使用教程实例代码详解
2019/07/08 Javascript
Webpack 4如何动态切割JS注入文件名详解
2019/07/09 Javascript
BootstrapValidator验证用户名已存在(ajax)
2019/11/08 Javascript
Vue实现商品飞入购物车效果(电商项目)
2019/11/26 Javascript
JS localStorage存储对象,sessionStorage存储数组对象操作示例
2020/02/15 Javascript
微信小程序自定义navigationBar顶部导航栏适配所有机型(附完整案例)
2020/04/26 Javascript
python中的tcp示例详解
2018/12/09 Python
python 自动批量打开网页的示例
2019/02/21 Python
打包python 加icon 去掉cmd黑窗口方法
2019/06/24 Python
对Python中小整数对象池和大整数对象池的使用详解
2019/07/09 Python
Python pickle模块实现对象序列化
2019/11/22 Python
python pycharm最新版本激活码(永久有效)附python安装教程
2020/09/18 Python
如何配置关联Python 解释器 Anaconda的教程(图解)
2020/04/30 Python
在echarts中图例legend和坐标系grid实现左右布局实例
2020/05/16 Python
用python按照图像灰度值统计并筛选图片的操作(PIL,shutil,os)
2020/06/04 Python
Python爬虫爬取百度搜索内容代码实例
2020/06/05 Python
解析python 中/ 和 % 和 //(地板除)
2020/06/28 Python
WoolOvers爱尔兰:羊绒、羊毛和棉针织品
2017/01/04 全球购物
英国运动风奢侈品购物网站:Maison De Fashion
2020/08/28 全球购物
党的群众路线教育实践活动对照检查材料(四风)
2014/09/27 职场文书
2015年党务公开工作总结
2015/05/19 职场文书
绿里奇迹观后感
2015/06/15 职场文书
2015少先队大队辅导员工作总结
2015/07/24 职场文书
小学教师教育随笔
2015/08/14 职场文书
python数据可视化使用pyfinance分析证券收益示例详解
2021/11/20 Python