MySQL InnoDB verrouille uniquement les lignes concernées ?

Pour résoudre la première partie de votre question, créez un index unique sur user_id et name.

alter table `users` add unique index ak_user_id_name(user_id,name);

Cela empêchera les doublons d'enregistrements user_id,name.