C'est un comportement assez étrange. Je viens d'exécuter votre code localement et tout a fonctionné. Pouvez-vous vérifier que vous utilisez la version 0.18.2 du pilote ? Si c'est le cas, assurez-vous qu'il s'agit de la seule version installée (juste comme vérification).
Je ne pense pas que cela devrait faire une différence, mais je n'utilisais pas #group depuis MongoMapper - j'utilisais la gemme seule. Vous pourriez essayer cela aussi. Voici le code que j'ai exécuté :
require 'rubygems'
require 'mongo'
d = Mongo::Connection.new.db('blog')
c = d['post']
p c.group("function(x) { return { month: x.date.getMonth(), year:x.date.getFullYear() }; }",
nil,
{ :count => 0 },
"function(x,y){y.count++}",
true)