JDBCのコネクションについて

今回はJDBCのコネクションについて少し疑問に思ったので話します。詳しい方いたらぜひ教えて欲しいです。
今までの自分のコネクション管理としては

public Connection getConnection() throws NamingException, SQLException {

こういったgetConnectionやcloseを一つのクラスを作ってそこから使うたびに呼び出すような設計にしていました。
ですがWebアプリの機能が多くなって一度に呼び出す数が多くなってくるとコネクションを新規に作り続けてしまうようになってしまいました。

そこで機能のclassごとにgetConnectionなどののメソッドを作りそれを使うようにしたら新規に作り続けるといったことは無くなりました。

適切なコネクション管理とはどうするのが正解なのでしょうか？