La façon la plus simple de le faire, si vous n'êtes pas lié à un framework particulier, est d'utiliser un fichier de propriétés. Jetez un œil à la dernière partie de la réponse acceptée pour cette question (pas le bit XML pour votre cas).
Selon que vous utilisez un conteneur de servlet ou similaire (par exemple, Tomcat, Glassfish, etc.), vous pouvez également envisager d'utiliser les paramètres de connexion et le regroupement de connexions de ce conteneur, ce qui peut être plus simple que de recycler vos propres connexions.
Mais si vous essayez juste de vous frayer un chemin dans Java et que c'est pour vous d'en apprendre davantage sur JDBC, restez simple au départ et lisez simplement vos propriétés à partir d'un fichier db.properties sur votre chemin de classe.