Il existe un fichier journal :/var/log/mongodb/mongod.log
Dans le journal, j'ai trouvé ce qui suit :
Failed to unlink socket file /tmp/mongodb-27017.sock errno: Operation not permitted
Cela provenait très probablement de la version précédente de MongoDB. J'ai supprimé le fichier (rm -rf /tmp/mongodb-27017.sock ) et terminé l'installation :
apt-get install mongodb-org
Maintenant ça marche. :-)