Ok, j'ai donc trouvé la solution à mon problème.
Tout d'abord, j'ai installé le gem pg avec homebrew, comme expliqué ici :
brew install postgres
Ensuite, je n'ai pas pu démarrer le serveur rails, j'ai donc suivi cette solution et a couru :
pg_ctl -D /usr/local/var/postgres -l /usr/local/var/postgres/server.log start
Maintenant, tout fonctionne.
