Le commentaire de Deefour l'a compris ! C'est ainsi que j'ai installé PostgreSQL.
J'utilise le programme d'installation en un clic de PostgreSQL qui, je suppose, ne configure pas correctement la libpq pour Mountain Lion.
Homebrew, par contre, le construira correctement pour le système d'exploitation.
Après avoir installé postgres via homebrew
brew install postgresql
J'ai pu installer ma gemme sans problème.
Merci à tous !