J'ai rencontré le même problème lors de l'installation de mysql2-0.3.21 sur Mac pro.
La solution mentionnée ci-dessous a fonctionné pour moi (exécutez les 3 commandes mentionnées ci-dessous dans le terminal pointant vers votre dossier de projet):
brew install mysql
gem install mysql2 -v '0.3.21' -- --srcdir=/usr/local/mysql/include
bundle install