J'ai eu exactement le même problème que vous avez signalé. Ma connexion ODBC utilisait le pilote MySQL ODBC 5.3 Unicode (/usr/local/lib/libmyodbc5w.so) Bien que je puisse me connecter avec iSQL, les commandes SQL réelles retournaient des ordures.
J'ai essayé de changer mon odbc.ini pour utiliser le pilote ANSI à la place (/usr/local/lib/libmyodbc5a.so). Cela a fonctionné et maintenant RODBC peut se connecter à ma base de données MySQL.