pour une raison quelconque (peut-être parce que j'utilise rubygems 1.3.7 ou que j'installe mysql-2.8.1)
sudo gem install mysql -- --with-mysql-config=/usr/local/mysql/bin/mysql_config
n'a pas fonctionné pour moi, donc après avoir jeté un coup d'œil à gems/mysql-2.8.1/ext/mysql_api/extconf.rb j'ai découvert que le extconf.rb regarde dans le PATH pour mysql_config donc j'ai essayé
export PATH=$PATH:/usr/local/mysql/bin
sudo gem install mysql
et a fait le travail