Il semble que vous ayez encore besoin d'installer les bibliothèques de développement de MySQL. Ceux-ci sont nécessaires pour que la gemme se construise avec succès sur votre système.
[Modifier] Il semble que le RoR Wiki ne soit plus disponible. Mais, Ubuntu a proposé leur propre procédure pas à pas qui suggère :
sudo apt-get install mysql-server mysql-client
sudo apt-get install libmysql-ruby libmysqlclient-dev
sudo gem install mysql
Voir http://wiki.rubyonrails.org/database-support/mysql #installation
pour plus de détails.
Exemple :Ubuntu
sudo apt-get install mysql-server mysql-server-5.0 libmysqlclient15off \
libmysqlclient15-dev mysql-client-5.0 mysql-common
sudo apt-get install libmysql++-dev
sudo gem install mysql