最近在统计某一个时间段的url去重数，由于数据量巨大导致报错，提示：

我们提供的服务有：成都网站制作、成都做网站、微信公众号开发、网站优化、网站认证、青铜峡ssl等。为上1000家企事业单位解决了网站和推广的问题。提供周到的售前咨询和贴心的售后服务，是有科学管理、有技术的青铜峡网站制作公司

distinct failed: {
"errmsg" : "exception: distinct too big, 16mb cap",
"code" : 17217,
"ok" : 0
} at src/mongo/shell/collection.js:1108

最终通过mapreduce来解决如下：

//定义map函数
map=function(){
    emit(this.url,{"count":1});
}

//定义reduce函数
reduce=function(key,values){
    var total=0;
    for(var i=0; i < values.length; i++){
        total+=values[i].count;
    }
    return {count:total}
}

//执行mapreduce函数,其中out的值是存储执行结果的集合
db.runCommand({"mapreduce":"visit","map":map,"reduce":reduce,"query":{"vtime":{"$gte":1412611200,"$lte":1413907119}},"out":"test.tmp"});

关于mapreduce的选项解释如下：

"out":{replace:"collection name"} -- mapreduce输出结果会替换掉原来的collection,collection不存在则创建
"out":{merge:"collection name"} -- 将新老数据进行合并，新的替换旧的，没有的添加进去
"out":{reduce:"collection name"}-- 存在老数据时，在原来的基础上加新的数据（即new value=old value+mapreduce value）
"out":{inline:1} -- 不会创建collection，结果保存在内存里面，只限于结果小于16MB的情况

分享文章：mongodb中使用mapreduce进行分组统计
文章源于：http://ybzwz.com/article/iiesgg.html