Si vous rencontrez à nouveau cette erreur après la mise à niveau vers la version 12.04 (ou pour les personnes arrivant ici après avoir recherché le titre de cette page sur Google après la mise à niveau vers la version 12.04), ce qui suit a fonctionné pour moi :
gem uninstall mysql2
gem install mysql2
Cela recompilera la gemme en utilisant libmysqlclient18 et a fonctionné pour moi.
J'espère que cela aidera quelqu'un.