Copié du commentaire puisqu'il a apparemment conduit à la solution :
Je suppose que vous perdez autre chose que de la mémoire, peut-être des descripteurs de fichiers. Essayez d'utiliser netstat ou lsof pour voir s'il y a beaucoup plus de connexions ou de fichiers ouverts que prévu.