mongodb中使用mapreduce进行分组统计
最近在统计某一个时间段的url去重数，由于数据量巨大导致报错，提示：1
2
3
4
5
distinct failed: {
"errmsg" : "exception: distinct too big, 16mb cap",
"code" : 17217,
"ok" : 0
} at src/mongo/shell/collection.js:1108
经过查阅资料，最终通过mapreduce来解决如下：
1
2
3
4
//定义map函数
map=function(){
emit(this.url,{"count":1});
}
1
2
3
4
5
6
7
8
//定义reduce函数
reduce=function(key,values){
var total=0;
for(var i=0; i < values.length; i++){
total+=values.count;
}
return {count:total}
}
1
2
//执行mapreduce函数,其中out的值是存储执行结果的集合
db.runCommand({"mapreduce":"visit","map":map,"reduce":reduce,"query":{"vtime":{"$gte":1412611200,"$
页:
[1]