设为首页 收藏本站
查看: 528|回复: 0

[经验分享] 纯异步nodejs文件夹(目录)复制

[复制链接]

尚未签到

发表于 2017-2-22 08:30:44 | 显示全部楼层 |阅读模式
  思路:
  1、callback 驱动
  2、递归所有需要复制文件
  3、在一定阀值下并发复制文件
  4、运行需要安装 async.js     npm install async
  代码如下:

var async = require("async");
var fs = require("fs");
var path = require("path");
// cursively make dir
function mkdirs(p, mode, f, made) {
if (typeof mode === 'function' || mode === undefined) {
f = mode;
mode = 0777 & (~process.umask());
}
if (!made)
made = null;
var cb = f || function () {};
if (typeof mode === 'string')
mode = parseInt(mode, 8);
p = path.resolve(p);
fs.mkdir(p, mode, function (er) {
if (!er) {
made = made || p;
return cb(null, made);
}
switch (er.code) {
case 'ENOENT':
mkdirs(path.dirname(p), mode, function (er, made) {
if (er) {
cb(er, made);
} else {
mkdirs(p, mode, cb, made);
}
});
break;
// In the case of any other error, just see if there's a dir
// there already.  If so, then hooray!  If not, then something
// is borked.
default:
fs.stat(p, function (er2, stat) {
// if the stat fails, then that's super weird.
// let the original error be the failure reason.
if (er2 || !stat.isDirectory()) {
cb(er, made);
} else {
cb(null, made)
};
});
break;
}
});
}
// single file copy
function copyFile(file, toDir, cb) {
async.waterfall([
function (callback) {
fs.exists(toDir, function (exists) {
if (exists) {
callback(null, false);
} else {
callback(null, true);
}
});
}, function (need, callback) {
if (need) {
mkdirs(path.dirname(toDir), callback);
} else {
callback(null, true);
}
}, function (p, callback) {
var reads = fs.createReadStream(file);
var writes = fs.createWriteStream(path.join(path.dirname(toDir), path.basename(file)));
reads.pipe(writes);
//don't forget close the  when  all the data are read
reads.on("end", function () {
writes.end();
callback(null);
});
reads.on("error", function (err) {
console.log("error occur in reads");
callback(true, err);
});
}
], cb);
}
// cursively count the  files that need to be copied
function _ccoutTask(from, to, cbw) {
async.waterfall([
function (callback) {
fs.stat(from, callback);
},
function (stats, callback) {
if (stats.isFile()) {
cbw.addFile(from, to);
callback(null, []);
} else if (stats.isDirectory()) {
fs.readdir(from, callback);
}
},
function (files, callback) {
if (files.length) {
for (var i = 0; i < files.length; i++) {
_ccoutTask(path.join(from, files), path.join(to, files), cbw.increase());
}
}
callback(null);
}
], cbw);
}
// wrap the callback before counting
function ccoutTask(from, to, cb) {
var files = [];
var count = 1;
function wrapper(err) {
count--;
if (err || count <= 0) {
cb(err, files)
}
}
wrapper.increase = function () {
count++;
return wrapper;
}
wrapper.addFile = function (file, dir) {
files.push({
file : file,
dir : dir
});
}
_ccoutTask(from, to, wrapper);
}

function copyDir(from, to, cb) {
if(!cb){
cb=function(){};
}
async.waterfall([
function (callback) {
fs.exists(from, function (exists) {
if (exists) {
callback(null, true);
} else {
console.log(from + " not exists");
callback(true);
}
});
},
function (exists, callback) {
fs.stat(from, callback);
},
function (stats, callback) {
if (stats.isFile()) {
// one file copy
copyFile(from, to, function (err) {
if (err) {
// break the waterfall
callback(true);
} else {
callback(null, []);
}
});
} else if (stats.isDirectory()) {
ccoutTask(from, to, callback);
}
},
function (files, callback) {
// prevent reaching to max file open limit   
async.mapLimit(files, 10, function (f, cb) {
copyFile(f.file, f.dir, cb);
}, callback);
}
], cb);
}
var start = new Date().getTime();
copyDir("F:\\gear", "F:\\gear2", function (err) {
if (err) {
console.log("error ocur");
console.dir(err);
} else {
console.log("copy ok");
console.log("consume time:" + (new Date().getTime() - start))
}
});

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-345427-1-1.html 上篇帖子: 关于nodejs中的npm install 下篇帖子: 【Nodejs】学习之路:前传
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表