|
在 MongoDB 上使用 Map/Reduce进行并行"统计"很容易。
使用 MapReduce 要实现两个函数 Map 函数和 Reduce 函数,Map 函数调用 emit(key, value),
遍历 collection 中所有的记录, 将key 与 value 传递给 Reduce 函数进行处理。
Map函数和Reduce函数可以使用 JavaScript 来实现,可以通过 db.runCommand 或 mapReduce 命令来执行一个MapReduce 的操作:
db.runCommand(
{
mapReduce: ,
map: ,
reduce: ,
out: ,
query: ,
sort: ,
limit: ,
finalize: ,
scope: ,
jsMode: ,
verbose:
})
参数说明:
mapreduce: 要操作的目标集合。
map: 映射函数 (生成键值对序列,作为 reduce 函数参数)。
reduce: 统计函数。
out: 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。
query: 目标记录过滤
sort: 目标记录排序。
limit: 限制目标记录数量。
finalize: 最终处理函数 (对 reduce 返回结果进行最终整理后存入结果集合)
scope: 向 map、reduce、finalize 导入外部变量。
jsMode: 是否转换Bson格式在map和reduce执行间
verbose: 显示详细的时间统计信息。
下面我们来搞一个例子吧:
准备一些数据:
接下来我们演示如何统计各个班的学生数量
Map:
Map 函数必须调用 emit(key, value) 返回键值对,使用 this 访问当前待处理的 Document。
m = function(){ emit(this.classid,1);
}
value 可以使用 JSON Object 传递 (支持多个属性值)。
例如:emit(this.classid, {count:1})
Reduce:
Reduce 函数接收的参数类似 Group 效果,将 Map 返回的键值序列组合成 { key, [value1,
value2, value3, value...] } 传递给 reduce。
r = function(key,values){ var x = 0;
values.forEach(function(v){x += v});
return x;
}
Reduce 函数对这些 values 进行 "统计" 操作,返回结果可以使用 JSON Object。
Result:
mapReduce() 将结果存储在 "students_res" 表中。
Finalize:
利用 finalize() 我们可以对 reduce() 的结果做进一步处理。
f = function(key,value){ return {classid:key,count:value}
}
我们再重新计算一次,看看结果:
Options:
我们还可以添加更多的控制细节。
db.runCommand({ mapreduce:"stu",
map:m,
reduce:r,
out:"stu_res",
finalize:f,
query:{age:{$gt:10}}
});
可以看到先进行了过滤,只取 age>10 的数据,然后再进行统计,所以就没有 age=9 的数
据了。
|
|
所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298
本贴地址:https://www.yunweiku.com/thread-627048-1-1.html
上篇帖子:
MongoDB实战(3)固定集合与GridFS-Coder
下篇帖子:
tomcat7,jdk7,mongoDB最新版(搭建replacia set模式),maven 服务器nexus,,svn, php
|