设为首页 收藏本站
查看: 1218|回复: 0

[经验分享] MongoDB进行MapReduce的数据类型

[复制链接]

尚未签到

发表于 2015-7-7 08:09:51 | 显示全部楼层 |阅读模式
  有很长一段时间没更新博客了,因为最近都比较忙,今天算是有点空闲吧。本文主要是介绍MapReduce在MongoDB上的使用,它与sql的分组、聚集类似,也是先map分组,再用reduce统计,最后还可选性地使用finalize调整最终结果。好了,来介绍下我所使用版本是MongoDB2.4.5,然后我还使用了MongoVUE(一款非常不错的图形化mongodb管理工具)帮助我协同操作。
  1、原始数据,待使用的Collection中有三条doc:                                  而且它们的数据格式为:
DSC0000.png    DSC0001.png
  可能很多人并不注意mongodb中存的数据格式吧,但是对于我来说,这个很敏感,我并不喜欢在后台使用object来保存这些本来明确的类型。这里我多提一点,如果是使用控制台插入的数据,你插入的数字,很可能存成了Double,而想存成整型,则必须要用NumberInt()、NumberLong()来,示例:
DSC0002.jpg
  运行后在控制台上是看不出来数据类型的,但是利用MongoVUE,我可以看到: DSC0003.png
  数据库直接存成了double。而使用:
DSC0004.png
  可以让它存成int32,使用NumberLong()可以存成Int64。
  
   2、进行MapReduce,实现查找不同名字的人各有多少个的统计。首先是map函数,再调用reduce函数  



1 function Map() {
2     emit(
3         this.name,
4         {count: 1}
5     );
6 }
  emit(key,value)是一个分组的函数,表示以指定key对原doc进行分组,value是从doc中取出的数据或者自己录入的数据,它将会被添加到一个集合(暂称C集合)中。MapReduce会对各个doc都进行一次Map函数调用,但你可以决定是否使用emit函数对此doc进行分组,不分组的doc就相当于弃置了。不过我推荐不要在Map函数中添加过滤操作,如if (xxx==yyy)  emit(...,...);,而应该在进行MapReduce前就进行Query过滤掉信息(后面会讲)。在Map函数中可以进行的过滤操作一般也是分类操作,比如成绩高于60的以某种方法emit,低于60的以某种方法emit,而不应该说是高于60的进行emit,否则什么都不做。



1 function Reduce(key, values) {
2     var reduced = {count:0, name:""}; // 初始化返回值
3     values.forEach(function(val) {
4         reduced.count += val.count;
5     });
6     return reduced;   
7 }
  接下来是Reduce函数,这个便是根据上面的emit分组数据进行统计了,函数的参数分别是key(它是上面的emit中的key)和values(它就是上面提到的C集合)。MapReduce会对各个分组的key都进行一次Reduce函数调用。函数第一行是对需要的统计结果数据进行初始化,然后就是自己的统计方法了,最后需要返回这个结果。
  好了,看下在DB控制台下怎么调用这个MapReduce:



1 db.runCommand({ mapreduce: "lekko",
2  map : function Map() {
3     emit(
4         this.name,
5         {count: 1}
6     );
7 },
8  reduce : function Reduce(key, values) {
9     var reduced = {count:0, name:""}; // 初始化返回值
10     values.forEach(function(val) {
11         reduced.count += val.count;
12     });
13     return reduced;   
14 },
15  out : { inline : 1 }
16 });
  结果很快出来了: DSC0005.png ,由于我前面又在控制台下添加了两条doc,所以现在lekko名称的人有4个了。值得注意的是,这里在MapReduce之后的结果都将成为double型!
  
    3、一些附加操作
    单纯的MapReduce原理很简单,关键是会灵活使用就好。现在我例出几个我自己的使用心得:
  (1)把Query也放到MapReduce中
  在前面的runCommand中添加参数。例如我要查询所有男生的,就添加..., query : { "isman" : true }, ...。
  (2)对结果进行数据类型转化
  利用Finalize函数(该函数是在Reduce函数后调用,它将对所有key的Reduce结果进行最后的操作),例如我在后台调用了api后想得到的是int型数据,而不是double的,那么就可以添加Finalize函数:



1 ...,
2 finalize : function Finalize(key, reduced) {
3     reduced.count = NumberInt(reduced.count);
4     return reduced;
5 },
6 ...
  这样,输出的reduced将会是int32,在后台你就直接用一个强制转化就行了,而不需要先从object转为double,再转为int(用ToString后再用Prase也不如强制转化)。
  (3)时间类型
  因为mongodb是有Date类型的,但是由于存入的时间格式和查询时间的格式可能不一致(特别是在你的mongodb部署在远程,而开发又是多人协作),会导致根据时间条件,却查不出数据的问题。我的建议,直接存时间的long形态(过去秒数),那么这种差异性问题就不复存在。
    转载请注明原址:http://www.iyunv.com/lekko/p/3240028.html

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-83890-1-1.html 上篇帖子: Allan 译 The Little MongoDB Book (Getting Started) 下篇帖子: 各种nosql数据库的比较Cassandra,MongoDB,CouchDB,Redis,Riak,HBase
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表