MongoDB MapReduce
在用 MongoDB 查询时,若返回的数据量很大,或者做一些比较复杂的统计和聚合操作做花费的时间很长时,可以使用 MongoDB 中的 mapReduce 进行实现。mapReduce 是个灵活且强大的数据聚合工具,它的好处是可以把一个聚合任务分解为多个小的任务,分配到多个服务器上并行处理。
在 MongoDB 中我们可以使用 mapReduce 命令来执行 mapReduce 操作。
通过运行结果可以发现,共有 11 个文档与查询匹配(状态为“active”),map 函数生成了 11 个具有键值对的文档,最后 reduce 函数将具有相同键值的映射文档分为 2 个组。
若要查看 mapReduce 查询的结果,可以使用 find 方法,如下所示:
在 MongoDB 中我们可以使用 mapReduce 命令来执行 mapReduce 操作。
mapReduce 命令
在 mapReduce 命令中要实现两个函数,分别是 map 函数和 reduce 函数,其中 map 函数调用 emit(key, value),遍历集合中的所有记录,并将 key 与 value 传递给 reduce 函数进行处理,如下所示:> db.collection_name.mapReduce( function() {emit(key, value);}, // map 函数 function(key, values) {return reduceFunction}, // reduce 函数 { out: collection, query: document, sort: document, limit: number } )参数说明如下:
- map 函数:一个 javascript 函数,它用一个键映射一个值并发出一个键值对;
- reduce 函数:一个 javascript 函数,用于减少或分组具有相同键的所有文档;
- out:指定 map-reduce 查询结果的位置;
- query:指定用于选择文档的可选选择条件;
- sort:指定可选的排序条件;
- limit:指定要返回的最大文档数(可选)。
使用 mapReduce
假如有一个存储用户帖子信息的集合,其中存储了若干用户的用户名、状态等信息,例如下面这样:
{
"post_text": "编程帮(biancheng.net),一个在线学习编程的网站,专注于分享优质编程教程。",
"user_name": "bianchengbang",
"status":"active"
}
"status":"active"
的文档,然后根据用户名对它们进行分组,最后统计每个用户的发帖数量。示例代码如下:> db.posts.mapReduce( ... function() { emit(this.user_name,1); }, ... function(key, values) {return Array.sum(values)}, ... { ... query:{status:"active"}, ... out:"post_total" ... } ... )上面 mapReduce 命令的输出结果如下所示:
{ "result" : "post_total", "timeMillis" : 48, "counts" : { "input" : 11, "emit" : 11, "reduce" : 2, "output" : 2 }, "ok" : 1 }关于运行结果,有如下几点需要说明:
- result:储存结果的 collection 的名字,这是个临时集合,mapReduce 的连接关闭后会被自动删除;
- timeMillis:执行花费的时间,单位为毫秒;
- input:满足条件被发送到 map 函数的文档个数;
- emit:在 map 函数中 emit 被调用的次数,也就是所有集合中的数据总量;
- ouput:结果集合中的文档个数(count 对调试非常有帮助);
- ok:查询是否执行成功,成功为 1;
- err:若执行失败,则会在这里显示失败原因。
通过运行结果可以发现,共有 11 个文档与查询匹配(状态为“active”),map 函数生成了 11 个具有键值对的文档,最后 reduce 函数将具有相同键值的映射文档分为 2 个组。
若要查看 mapReduce 查询的结果,可以使用 find 方法,如下所示:
> db.posts.mapReduce( ... function() { emit(this.user_name,1); }, ... function(key, values) {return Array.sum(values)}, ... { ... query:{status:"active"}, ... out:"post_total" ... } ... ).find()上面的查询语句,执行结果如下:
{ "_id" : "biancheng", "value" : 5 }
{ "_id" : "bianchengbang", "value" : 6 }