深入nodejs中流(stream)的理解

nodejs的fs模塊并沒(méi)有提供一個(gè)copy的方法,但我們可以很容易的實(shí)現(xiàn)一個(gè),比如:

創(chuàng)新互聯(lián)建站專(zhuān)注于南州晴隆企業(yè)網(wǎng)站建設(shè),自適應(yīng)網(wǎng)站建設(shè),商城網(wǎng)站制作。南州晴隆網(wǎng)站建設(shè)公司,為南州晴隆等地區(qū)提供建站服務(wù)。全流程按需網(wǎng)站制作,專(zhuān)業(yè)設(shè)計(jì),全程項(xiàng)目跟蹤,創(chuàng)新互聯(lián)建站專(zhuān)業(yè)和態(tài)度為您提供的服務(wù)

var source = fs.readFileSync('/path/to/source', {encoding: 'utf8'});
fs.writeFileSync('/path/to/dest', source);

這種方式是把文件內(nèi)容全部讀入內(nèi)存,然后再寫(xiě)入文件,對(duì)于小型的文本文件,這沒(méi)有多大問(wèn)題,比如grunt-file-copy就是這樣實(shí)現(xiàn)的。但是對(duì)于體積較大的二進(jìn)制文件,比如音頻、視頻文件,動(dòng)輒幾個(gè)GB大小,如果使用這種方法,很容易使內(nèi)存“爆倉(cāng)”。理想的方法應(yīng)該是讀一部分,寫(xiě)一部分,不管文件有多大,只要時(shí)間允許,總會(huì)處理完成,這里就需要用到流的概念。

深入nodejs中流(stream)的理解

如上面高大上的圖片所示,我們把文件比作裝水的桶,而水就是文件里的內(nèi)容,我們用一根管子(pipe)連接兩個(gè)桶使得水從一個(gè)桶流入另一個(gè)桶,這樣就慢慢的實(shí)現(xiàn)了大文件的復(fù)制過(guò)程。

Stream在nodejs中是EventEmitter的實(shí)現(xiàn),并且有多種實(shí)現(xiàn)形式,例如:

  • http responses request
  • fs read write streams
  • zlib streams
  • tcp sockets
  • child process stdout and stderr

上面的文件復(fù)制可以簡(jiǎn)單實(shí)現(xiàn)一下:

var fs = require('fs');
var readStream = fs.createReadStream('/path/to/source');
var writeStream = fs.createWriteStream('/path/to/dest');

readStream.on('data', function(chunk) { // 當(dāng)有數(shù)據(jù)流出時(shí),寫(xiě)入數(shù)據(jù)
  writeStream.write(chunk);
});

readStream.on('end', function() { // 當(dāng)沒(méi)有數(shù)據(jù)時(shí),關(guān)閉數(shù)據(jù)流
  writeStream.end();
});

上面的寫(xiě)法有一些問(wèn)題,如果寫(xiě)入的速度跟不上讀取的速度,有可能導(dǎo)致數(shù)據(jù)丟失。正常的情況應(yīng)該是,寫(xiě)完一段,再讀取下一段,如果沒(méi)有寫(xiě)完的話,就讓讀取流先暫停,等寫(xiě)完再繼續(xù),于是代碼可以修改為:

var fs = require('fs');
var readStream = fs.createReadStream('/path/to/source');
var writeStream = fs.createWriteStream('/path/to/dest');

readStream.on('data', function(chunk) { // 當(dāng)有數(shù)據(jù)流出時(shí),寫(xiě)入數(shù)據(jù)
  if (writeStream.write(chunk) === false) { // 如果沒(méi)有寫(xiě)完,暫停讀取流
    readStream.pause();
  }
});

writeStream.on('drain', function() { // 寫(xiě)完后,繼續(xù)讀取
  readStream.resume();
});

readStream.on('end', function() { // 當(dāng)沒(méi)有數(shù)據(jù)時(shí),關(guān)閉數(shù)據(jù)流
  writeStream.end();
});

或者使用更直接的pipe

// pipe自動(dòng)調(diào)用了data,end等事件
fs.createReadStream('/path/to/source').pipe(fs.createWriteStream('/path/to/dest'));

下面是一個(gè)更加完整的復(fù)制文件的過(guò)程

var fs = require('fs'),
  path = require('path'),
  out = process.stdout;

var filePath = '/Users/chen/Movies/Game.of.Thrones.S04E07.1080p.HDTV.x264-BATV.mkv';

var readStream = fs.createReadStream(filePath);
var writeStream = fs.createWriteStream('file.mkv');

var stat = fs.statSync(filePath);

var totalSize = stat.size;
var passedLength = 0;
var lastSize = 0;
var startTime = Date.now();

readStream.on('data', function(chunk) {

  passedLength += chunk.length;

  if (writeStream.write(chunk) === false) {
    readStream.pause();
  }
});

readStream.on('end', function() {
  writeStream.end();
});

writeStream.on('drain', function() {
  readStream.resume();
});

setTimeout(function show() {
  var percent = Math.ceil((passedLength / totalSize) * 100);
  var size = Math.ceil(passedLength / 1000000);
  var diff = size - lastSize;
  lastSize = size;
  out.clearLine();
  out.cursorTo(0);
  out.write('已完成' + size + 'MB, ' + percent + '%, 速度:' + diff * 2 + 'MB/s');
  if (passedLength < totalSize) {
    setTimeout(show, 500);
  } else {
    var endTime = Date.now();
    console.log();
    console.log('共用時(shí):' + (endTime - startTime) / 1000 + '秒。');
  }
}, 500);

可以把上面的代碼保存為copy.js試驗(yàn)一下

我們添加了一個(gè)遞歸的setTimeout(或者直接使用setInterval)來(lái)做一個(gè)旁觀者,每500ms觀察一次完成進(jìn)度,并把已完成的大小、百分比和復(fù)制速度一并寫(xiě)到控制臺(tái)上,當(dāng)復(fù)制完成時(shí),計(jì)算總的耗費(fèi)時(shí)間,效果如圖:

深入nodejs中流(stream)的理解

我們復(fù)制了一集1080p的權(quán)利的游戲第四季第7集,大概3.78G大小,由于使用了SSD,可以看到速度還是非常不錯(cuò)的,哈哈哈~ 復(fù)制完成后,顯示總花費(fèi)時(shí)間

深入nodejs中流(stream)的理解

結(jié)合nodejs的readlineprocess.argv等模塊,我們可以添加覆蓋提示、強(qiáng)制覆蓋、動(dòng)態(tài)指定文件路徑等完整的復(fù)制方法,有興趣的可以實(shí)現(xiàn)一下,實(shí)現(xiàn)完成,可以

ln -s /path/to/copy.js /usr/local/bin/mycopy

這樣就可以使用自己寫(xiě)的mycopy命令替代系統(tǒng)的cp命令

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持創(chuàng)新互聯(lián)。

新聞名稱(chēng):深入nodejs中流(stream)的理解
URL鏈接:http://muchs.cn/article14/ihipde.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供營(yíng)銷(xiāo)型網(wǎng)站建設(shè)、網(wǎng)站內(nèi)鏈、企業(yè)網(wǎng)站制作網(wǎng)站維護(hù)、手機(jī)網(wǎng)站建設(shè)、網(wǎng)站制作

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

成都定制網(wǎng)站網(wǎng)頁(yè)設(shè)計(jì)