zoukankan      html  css  js  c++  java
  • DB连接池备忘

    池化用来解决并发访问的情况下,需要服务器创建大量资源(比如内存),从而导致性能问题,连接池是并发等待与服务器性能妥协的产物。

    连接中的连接释放之后,并不会销毁,而是返回给存储连接的数据结构里(比如List)供重复使用。对于数据库连接池,释放之后并不会返回给数据库,而是放到存放连接的LinkedList。

    网络编程中提出了将Socket放入池中,让多个线程共享这些插座(Socket)对应的线缆(Conenction)

    DB连接池就是基于连接池的一个实现。连接池是客户端使用的技术。比如C3P0,DBCP都是应用程序做为客户端通过连接池访问DB

     

    1.连接池的前世:通过JDBC访问DB:

    一般来说,Java应用程序访问数据库的过程(如图1所示)是:
    ①装载数据库驱动程序;
    ②通过JDBC建立数据库连接;
    ③访问数据库,执行SQL语句;
    ④断开数据库连接。

    2.为什么现在不用JDBC:

     JDBC作为一种数据库访问技术,具有简单易用的优点。但使用这种模式进行Web应用程序开发,存在很多问题:

    1)每一次Web请求都要建立一次数据库连接。建立连接是一个费时的活动,每次都得花费0.05s~1s的时间,而且系统还要分配内存资源。这个时间对于一次或几次数据库操作,或许感觉不出系统有多大的开销。可是对于现在的Web应用,多人并发频繁的进行数据库连接操作势必占用很多的系统资源。

    2)对于每一次数据库连接,使用完后都得断开。否则,如果程序出现异常而未能关闭,将会导致数 据库系统中的内存泄漏,最终将不得不重启数据库。还有,这种开发不能控制被创建的连接对象数,系统资源会被毫无顾及的分配出去,如连接过多,也可能导致内存漏,服务器崩溃。

    解决办法:DB连接池

    3.连接池原理:资源池模式(Resource Pool)。该模式正是为了解决资源的频繁分配﹑释放所造成的问题。为解决上述问题,可以采用数据库连接池技术。数据库连接池的基本思想就是为数据库连接 建立一个“缓冲池”。预先在缓冲池中放入一定数量的连接,当需要建立数据库连接时,只需从“缓冲池”中取出一个,使用完毕之后再放回去。我们可以通过设定连接池最大连接数来防止系统无尽的与数据库连接。更为重要的是我们可以通过连接池的管理机制监视数据库的连接的数量﹑使用情况,为系统开发﹑测试及性能调 整提供依据。

    4. 连接池关键问题分析
    4.1并发问题
           为了使连接管理服务具有最大的通用性,必须考虑多线程环境,即并发问题。这个问题相对比较好解决,因为Java语言自身提供了对并发管理的支持,使用 synchronized关键字即可确保线程是同步的。使用方法为直接在类方法前面加上synchronized关键字,如:public synchronized Connection getConnection()。
    4.2 多数据库服务器和多用户
          对于大型的企业级应用,常常需要同时连接不同的数据库(如连接Oracle和Sybase)。如何连接不同的数据库呢?我们采用的策略是:设计一个符合单 例模式的连接池管理类,在连接池管理类的唯一实例被创建时读取一个资源文件,其中资源文件中存放着多个数据库的url地址 (<poolName.url>)﹑用户名(<poolName.user>)﹑密码 (<poolName.password>)等信息。如 tx.url=172.21.15.123:5000/tx_it,tx.user=yang,tx.password=yang321。根据资源文件提 供的信息,创建多个连接池类的实例,每一个实例都是一个特定数据库的连接池。连接池管理类实例为每个连接池实例取一个名字,通过不同的名字来管理不同的连 接池。
           对于同一个数据库有多个用户使用不同的名称和密码访问的情况,也可以通过资源文件处理,即在资源文件中设置多个具有相同url地址,但具有不同用户名和密码的数据库连接信息。
    4.3 事务处理
          我们知道,事务具有原子性,此时要求对数据库的操作符合“ALL-ALL-NOTHING”原则,即对于一组SQL语句要么全做,要么全不做。
           在Java语言中,Connection类本身提供了对事务的支持,可以通过设置Connection的AutoCommit属性为false,然后显式 的调用commit或rollback方法来实现。但要高效的进行Connection复用,就必须提供相应的事务支持机制。可采用每一个事务独占一个连 接来实现,这种方法可以大大降低事务管理的复杂性。
    4.4 连接池的分配与释放
          连接池的分配与释放,对系统的性能有很大的影响。合理的分配与释放,可以提高连接的复用度,从而降低建立新连接的开销,同时还可以加快用户的访问速度。
        对于连接的管理可使用空闲池。即把已经创建但尚未分配出去的连接按创建时间存放到一个空闲池中。每当用户请求一个连接时,系统首先检查空闲池内有没有空闲 连接。如果有就把建立时间最长(通过容器的顺序存放实现)的那个连接分配给他(实际是先做连接是否有效的判断,如果可用就分配给用户,如不可用就把这个连 接从空闲池删掉,重新检测空闲池是否还有连接);如果没有则检查当前所开连接池是否达到连接池所允许的最大连接数(maxConn),如果没有达到,就新 建一个连接,如果已经达到,就等待一定的时间(timeout)。如果在等待的时间内有连接被释放出来就可以把这个连接分配给等待的用户,如果等待时间超 过预定时间timeout,则返回空值(null)。系统对已经分配出去正在使用的连接只做计数,当使用完后再返还给空闲池。对于空闲连接的状态,可开辟 专门的线程定时检测,这样会花费一定的系统开销,但可以保证较快的响应速度。也可采取不开辟专门线程,只是在分配前检测的方法。
    4.5 连接池的配置与维护
          连接池中到底应该放置多少连接,才能使系统的性能最佳?系统可采取设置最小连接数(minConn)和最大连接数(maxConn)来控制连接池中的连 接。最小连接数是系统启动时连接池所创建的连接数。如果创建过多,则系统启动就慢,但创建后系统的响应速度会很快;如果创建过少,则系统启动的很快,响应 起来却慢。这样,可以在开发时,设置较小的最小连接数,开发起来会快,而在系统实际使用时设置较大的,因为这样对访问客户来说速度会快些。最大连接数是连 接池中允许连接的最大数目,具体设置多少,要看系统的访问量,可通过反复测试,找到最佳点。
           如何确保连接池中的最小连接数呢?有动态和静态两种策略。动态即每隔一定时间就对连接池进行检测,如果发现连接数量小于最小连接数,则补充相应数量的新连接,以保证连接池的正常运转。静态是发现空闲连接不够时再去检查。

    5 连接池的实现   KW: 连接池管理类,连接池类。连接池管理类通过xml或属性文件初始化。支持不同类型数据库的连接池。同一数据库不同用户的连接池。服务提供者框架。
    5.1 连接池模型
        本文讨论的连接池包括一个连接池类(DBConnectionPool)和一个连接池管理类(DBConnetionPoolManager)。连接池类 是对某一数据库所有连接的“缓冲池”,主要实现以下功能:①从连接池获取或创建可用连接;②使用完毕之后,把连接返还给连接池;③在系统关闭前,断开所有 连接并释放连接占用的系统资源;④还能够处理无效连接(原来登记为可用的连接,由于某种原因不再可用,如超时,通讯问题),并能够限制连接池中的连接总数 不低于某个预定值和不超过某个预定值。
    连接池管理类是连接池类的外覆类(wrapper),符合单例模式,即系统中只能有一个连接 池管理类的实例。其主要用于对多个连接池对象的管理,具有以下功能:①装载并注册特定数据库的JDBC驱动程序;②根据属性文件给定的信息,创建连接池对 象;③为方便管理多个连接池对象,为每一个连接池对象取一个名字,实现连接池名字与其实例之间的映射;④跟踪客户使用连接情况,以便需要是关闭连接释放资 源。连接池管理类的引入主要是为了方便对多个连接池的使用和管理,如系统需要连接不同的数据库,或连接相同的数据库但由于安全性问题,需要不同的用户使用 不同的名称和密码。
    5.2 连接池实现
           下面给出连接池类和连接池管理类的主要属性及所要实现的基本接口:

    public class DBConnectionPool implements TimerListener{
    private int checkedOut;//已被分配出去的连接数
    private ArrayList freeConnections = new ArrayList();//容器,空闲池,根据//创建时间顺序存放已创建但尚未分配出去的连接
    private int minConn;//连接池里连接的最小数量
    private int maxConn;//连接池里允许存在的最大连接数
    private String name;//为这个连接池取个名字,方便管理
    private String password;//连接数据库时需要的密码
    private String url;//所要创建连接的数据库的地址
    private String user;//连接数据库时需要的用户名
    public Timer timer;//定时器

    public DBConnectionPool(String name, String URL, String user, String password, int maxConn)//公开的构造函数
    public synchronized void freeConnection(Connection con) //使用完毕之后,//把连接返还给空闲池
    public synchronized Connection getConnection(long timeout)//得到一个连接,//timeout是等待时间
    public synchronized void release()//断开所有连接,释放占用的系统资源
    private Connection newConnection()//新建一个数据库连接
    public synchronized void TimerEvent() //定时器事件处理函数
    }

    public class DBConnectionManager {
    static private DBConnectionManager instance;//连接池管理类的唯一实例
    static private int clients;//客户数量
    private ArrayList drivers = new ArrayList();//容器,存放数据库驱动程序
    private HashMap pools = new HashMap ();//以name/value的形式存取连接池//对象的名字及连接池对象
    static synchronized public DBConnectionManager getInstance()//如果唯一的//实例instance已经创建,直接返回这个实例;否则,调用私有构造函数,创//建连接池管理类的唯一实例
    private DBConnectionManager()//私有构造函数,在其中调用初始化函数init()
    public void freeConnection(String name, Connection con)// 释放一个连接,//name是一个连接池对象的名字
    public Connection getConnection(String name)//从名字为name的连接池对象//中得到一个连接
    public Connection getConnection(String name, long time)//从名字为name
    //的连接池对象中取得一个连接,time是等待时间
    public synchronized void release()//释放所有资源
    private void createPools(Properties props)//根据属性文件提供的信息,创建//一个或多个连接池
    private void init()//初始化连接池管理类的唯一实例,由私有构造函数调用
    private void loadDrivers(Properties props)//装载数据库驱动程序
    }



    5.3 连接池使用
          上面所实现的连接池在程序开发时如何应用到系统中呢?下面以Servlet为例说明连接池的使用。
           Servlet的生命周期是:在开始建立servlet时,调用其初始化(init)方法。之后每个用户请求都导致一个调用前面建立的实例的 service方法的线程。最后,当服务器决定卸载一个servlet时,它首先调用该servlet的 destroy方法。
           根据servlet的特点,我们可以在初始化函数中生成连接池管理类的唯一实例(其中包括创建一个或多个连接池)。如:

        public void init() throws ServletException {
    connMgr = DBConnectionManager.getInstance();
    }



    然后就可以在service方法中通过连接池名称使用连接池,执行数据库操作。最后在destroy方法中释放占用的系统资源,如:

         public void destroy() {
    connMgr.release();
    super.destroy();
    }



    6.基于现成的java.sql.DataSource实现连接池

    6.1编写连接池需要实现 java.sql.DataSource 接口。DataSource 接口中定义了两个重载的 getConnection 方法:

                  Connection.getConnection();

                  Connection.getConnection(String username, String password);

    6.2实现 DataSource 接口并实现连接池功能的步骤:KW:close重写,三种重写方式

                  在 DataSource 构造函数中批量创建与数据库的连接,并把创建连接加入到 LinkedList 对象中。实现 getConnection 方法,让 getConnection 方法每次调用时,从 LinkedList 中取一个 Connection 返回给用户。当用户使用完 Connection 对象应保证将连接返回到 LinkedList 中,而不是还给数据库。(这是连接池实现的一个很重要的环节。一定要覆盖原来close的逻辑。)

                  在自己编写数据库连接池时,我们要考虑到,从数据库获取连接的时候容易,但是当用户用完连接,调用 connection.close() 方法的时候,会直接将连接交还给数据库而不是再放回连接池中。所以我们要动态的改变 connection 方法。有三种方式可以实现 (1)写一个 connection 的子类,复写所有方法。但是这种方法有一个问题,因为 connection 对象中封装了太多数据,我们如何将 connection 的数据拷贝到我们当前的子类中呢?这是一个复杂的过程。(2)用装饰模式,装饰模式可以动态的为一个类增加新功能。装饰模式有几个步骤,首先装饰类和被装 饰类要有一个共同的父接口,其次装饰类中维护着一个被装饰类的对象,同时在装饰类的构造函数中要将被装饰的对象传进来,目的是赋值。然后我们可以为根据需 求增加修改原来的功能。当我们要使用被装饰类的时候,我们给用户返回的是我们装饰后的对象,  从 而达到目的。但是装饰模式比较适用于简单类,不适合用于方法多的对象,因为我们有时仅仅需要修改一部分功能,而其它功能还是希望调用被装饰类本身的方法, 那么这样我们就必须一个一个方法进行修改,来调用被装饰类的方法,这个工程非常庞大。(3)使用动态代理,动态代理可以实现拦截对对象的直接访问。如果我 们想修改某一个方法,只需要在调用对象之前进行判断即可,如果是我们想修改的,我们直接拦截,如果不是我们想要的,我们可以直接交给被代理对象处理。由于 动态代理是基于代理对象和被代理对象要有相同接口,所以我们可以基于接口统一调用,运行时以多态的形式表现出来。

        public class DataSourcePool {  

    private static LinkedList<Connection> list = new LinkedList<Connection>();

    static {
    for (int i = 0; i < 5; i++) {
    Connection con = DBHelper.getConnection();
    list.add(con);
    }
    }

    public Connection getConnection() throws SQLException {
    if (list.size() > 0) {
    System.out.println("当前连接池有:" + list.size() + "个连接");
    final Connection con = list.removeFirst();
    System.out.println("当前连接池有:" + list.size() + "个连接");
    return (Connection) Proxy.newProxyInstance(DataSourcePool.class.getClassLoader(), con.getClass().getInterfaces(), new InvocationHandler() {

    public Object invoke(Object proxy, Method method, Object[] args)
    throws Throwable {
    String methodName = method.getName();
    if(methodName.equals("close")){
    list.add(con);
    System.out.println("当前连接池有:" + list.size() + "个连接");
    return null;
    }else{
    return method.invoke(con, args);
    }
    }

    });
    }
    return null;
    }
    }



    7. 谁在提供连接池:

    7.1 应用服务器提供连接池,tomcat通过jndi先初始化好连接池。将来应用程序通过jndi去找对应的连接池获取连接。

    7.2.C3P0,DBCP.  DBCP是采用装饰模式来覆盖close。

     

     

     

    参考:

    http://www.zclw.net/article/sort040/sort043/info-170013.html

    http://blog.csdn.net/driverking/article/details/6741348

     
  • 相关阅读:
    Review Python装饰器
    Python自动化开发三元运算 列表解析 生成器表达式
    Python自动化开发函数02
    Python自动化开发函数03
    Python自动化开发文件
    ELK02ELK收集Linux系统平台应用系统日志
    ELK01Elasticsearch
    html5调用摄像头并拍照
    Docker 安装 PostgreSQL
    《TensorFlow+Keras自然语言处理实战》图书介绍
  • 原文地址:https://www.cnblogs.com/highriver/p/2325911.html
Copyright © 2011-2022 走看看