zoukankan      html  css  js  c++  java
  • 数据库访问优化法则

    要正确的优化SQL,我们需要快速定位能性的瓶颈点,也就是说快速找到我们SQL主要的开销在哪里?而大多数情况性能最慢的设备会是瓶颈点,如下载时网络速度可能会是瓶颈点,本地复制文件时硬盘可能会是瓶颈点,为什么这些一般的工作我们能快速确认瓶颈点呢,因为我们对这些慢速设备的性能数据有一些基本的认识,如网络带宽是2Mbps,硬盘是每分钟7200转等等。因此,为了快速找到SQL的性能瓶颈点,我们也需要了解我们计算机系统的硬件基本性能指标,下图展示的当前主流计算机性能指标数据。

    从图上可以看到基本上每种设备都有两个指标:

    延时(响应时间):表示硬件的突发处理能力;

    带宽(吞吐量):代表硬件持续处理能力。

    从上图可以看出,计算机系统硬件性能从高到代依次为:

    CPU——Cache(L1-L2-L3)——内存——SSD硬盘——网络——硬盘

    由于SSD硬盘还处于快速发展阶段,所以本文的内容不涉及SSD相关应用系统。

    根据数据库知识,我们可以列出每种硬件主要的工作内容:

    CPU及内存:缓存数据访问、比较、排序、事务检测、SQL解析、函数或逻辑运算;

    网络:结果数据传输、SQL请求、远程数据库访问(dblink);

    硬盘:数据访问、数据写入、日志记录、大数据量排序、大表连接。

    根据当前计算机硬件的基本性能指标及其在数据库中主要操作内容,可以整理出如下图所示的性能基本优化法则:

    这个优化法则归纳为5个层次:

    1、  减少数据访问(减少磁盘访问)

    2、  返回更少数据(减少网络传输或磁盘访问)

    3、  减少交互次数(减少网络传输)

    4、  减少服务器CPU开销(减少CPU及内存开销)

    5、  利用更多资源(增加资源)

    由于每一层优化法则都是解决其对应硬件的性能问题,所以带来的性能提升比例也不一样。传统数据库系统设计是也是尽可能对低速设备提供优化方法,因此针对低速设备问题的可优化手段也更多,优化成本也更低。我们任何一个SQL的性能优化都应该按这个规则由上到下来诊断问题并提出解决方案,而不应该首先想到的是增加资源解决问题。

    以下是每个优化法则层级对应优化效果及成本经验参考:

    优化法则

    性能提升效果

    优化成本

    减少数据访问

    1~1000

    返回更少数据

    1~100

    减少交互次数

    1~20

    减少服务器CPU开销

    1~5

    利用更多资源

    @~10

    一、减少数据访问次数(减少磁盘访问)

    1、创建并使用正确的索引
    一般对于选择度高、数据有序分布的列,在其上创建索引可以很好的提高性能(当然是在需要的情况下),因为选择度高的列可返回给oracle较少的ROWID,得到更加精确的ROWID能减少磁盘的I/O。对于SQL语句,不应该使用不等于运算符、IS NULL或IS NOT NULL、使用函数、比较不匹配的数据类型,因为这些都会限制索引的使用从而降低查询速度。
    (1) where 条件关联 <> ,!=,not in ,or 
    (2) where 条件 is null 或 is not null ,因为B-TREE索引里不保存字段为NULL值记录
    (3) where 条件模糊查询 like 开头使用 % 
    (4) where 条件左边使用 函数,普通运算,连接符 ,可以将运算操作放在右边
    (5) where 条件等值两边数据类型不一致,Oracle在做数值比较时需要将两边的数据转换成同一种数据类型,如果两边数据类型不同时会对字段值隐式转换,相当于加了一层函数处理,所以不能使用索引。 

     
    2、优化SQL where 条件
    提高查询性能,首先要做的就是调整那些糟糕的SQL语句,因为在很多时候,查询性能的降低可能只是因为糟糕的SQL语句。要提高SQL查询效率where语句条件的先后次序应如何写。

    (1)任何地方都不要使用 select * from t ,用具体的字段列表代替“*”,不要返回用不到的任何字段。
    (2)用 exists 代替 in  
    (3)尽可能的使用 varchar/nvarchar 代替 char/nchar ,因为首先变长字段存储空间小,可以节省存储空间,其次对于查询来说,在一个相对较小的字段内搜索效率显然要高些。
    (4)尽量使用数字型字段,若只含数值信息的字段尽量不要设计为字符型,这会降低查询和连接的性能,并会增加存储开销。这是因为引擎在处理查询和连接时会 逐个比较字符串中每一个字符,而对于数字型而言只需要比较一次就够了。

    (5)尽量使用表变量来代替临时表。如果表变量包含大量数据,请注意索引非常有限(只有主键索引)。 
    (6)避免频繁创建和删除临时表,以减少系统表资源的消耗。 
    (7)在新建临时表时,如果一次性插入数据量很大,那么可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果数据量不大,为了缓和系统表的资源,应先create table,然后insert。 

    (8)不要写一些没有意义的查询,如需要生成一个空表结构
     
    (9)尽量避免向客户端返回大数据量,若数据量过大,应该考虑相应需求是否合理
     
    (10)尽量避免大事务操作,提高系统并发能力。

    3、优化SQL执行计划

    二、返回更少数据(减少网络传输或磁盘访问)

    1、数据分页处理
    (1)前端分页

    (2)数据库SQL分页
    采用数据库SQL分页需要两次SQL完成
    一个SQL计算总数量
    一个SQL返回分页后的数据

    优点:性能好
    缺点:编码复杂,各种数据库语法不同,需要两次SQL交互。

    oracle数据库一般采用rownum来进行分页,常用分页语法有如下两种:
    直接通过rownum分页:
    select * from (
          select a.*,rownum rn from
                (select * from product a where company_id=? order by status) a
          where rownum<=20)
    where rn>10;
    数据访问开销=索引IO+索引全部记录结果对应的表数据IO


    采用rowid分页语法:
    优化原理是通过纯索引找出分页记录的ROWID,再通过ROWID回表返回数据,要求内层查询和排序字段全在索引里。
    create index myindex on product(company_id,status);

    select b.* from (
          select * from (
                select a.*,rownum rn from
                        (select rowid rid,status from product a where company_id=? order by status) a
                  where rownum<=20)
          where rn>10) a, product b
    where a.rid=b.rowid;
    数据访问开销=索引IO+索引分页结果对应的表数据IO


    实例:
    一个公司产品有1000条记录,要分页取其中20个产品,假设访问公司索引需要50个IO,2条记录需要1个表数据IO。那么按第一种ROWNUM分页写法,需要550(50+1000/2)个IO,按第二种ROWID分页写法,只需要60个IO(50+20/2);


    2、只返回需要的字段
    通过去除不必要的返回字段可以提高性能,例:
    调整前:select * from product where company_id=?;
    调整后:select id,name from product where company_id=?;

    优点:
    1、减少数据在网络上传输开销
    2、减少服务器数据处理开销
    3、减少客户端内存占用
    4、字段变更时提前发现问题,减少程序BUG
    5、如果访问的所有字段刚好在一个索引里面,则可以使用纯索引访问提高性能。
    缺点:增加编码工作量
    由于会增加一些编码工作量,所以一般需求通过开发规范来要求程序员这么做,否则等项目上线后再整改工作量更大。


    如果你的查询表中有大字段或内容较多的字段,如备注信息、文件内容等等,那在查询表时一定要注意这方面的问题,否则可能会带来严重的性能问题。如果表经常要查询并且请求大内容字段的概率很低,我们可以采用分表处理,将一个大表分拆成两个一对一的关系表,将不常用的大内容字段放在一张单独的表中。如一张存储上传文件的表:
    T_FILE(ID,FILE_NAME,FILE_SIZE,FILE_TYPE,FILE_CONTENT)

    我们可以分拆成两张一对一的关系表:
    T_FILE(ID,FILE_NAME,FILE_SIZE,FILE_TYPE)
    T_FILECONTENT(ID, FILE_CONTENT)
    通过这种分拆,可以大大提少T_FILE表的单条记录及总大小,这样在查询T_FILE时性能会更好,当需要查询FILE_CONTENT字段内容时再访问T_FILECONTENT表。

    三、减少交互次数(减少网络传输)

    1、批量的DML(batch DML)
    数据库访问框架一般都提供了批量提交的接口,jdbc支持batch的提交处理方法,当你一次性要往一个表中插入1000万条数据时,如果采用普通的executeUpdate处理,那么和服务器交互次数为1000万次,按每秒钟可以向数据库服务器提交10000次估算,要完成所有工作需要1000秒。如果采用批量提交模式,1000条提交一次,那么和服务器交互次数为1万次,交互次数大大减少。采用batch操作一般不会减少很多数据库服务器的物理IO,但是会大大减少客户端与服务端的交互次数,从而减少了多次发起的网络延时开销,同时也会降低数据库的CPU开销。


    2、In List
    很多时候我们需要按一些ID查询数据库记录,我们可以采用一个ID一个请求发给数据库,如下所示:
    for :var in ids[] 
      select * from mytable where id=:var;

    首先大部份数据库都会有SQL长度和IN里个数的限制,如ORACLE的IN里就不允许超过1000个值。


    3、设置Fetch Size
    当我们采用select从数据库查询数据时,数据默认并不是一条一条返回给客户端的,也不是一次全部返回客户端的,而是根据客户端fetch_size参数处理,每次只返回fetch_size条记录,当客户端游标遍历到尾部时再从服务端取数据,直到最后全部传送完成。所以如果我们要从服务端一次取大量数据时,可以加大fetch_size,这样可以减少结果数据传输的交互次数及服务器数据准备时间,提高性能。

     
    4、使用存储过程
    大型数据库一般都支持存储过程,合理的利用存储过程也可以提高系统性能。如你有一个业务需要将A表的数据做一些加工然后更新到B表中,但是又不可能一条SQL完成,这时你需要如下3步操作:
    a:将A表数据全部取出到客户端;
    b:计算出要更新的数据;
    c:将计算结果更新到B表。
    如果采用存储过程你可以将整个业务逻辑封装在存储过程里,然后在客户端直接调用存储过程处理,这样可以减少网络交互的成本。

    当然,存储过程也并不是十全十美,存储过程有以下缺点:
    a、不可移植性,每种数据库的内部编程语法都不太相同,当你的系统需要兼容多种数据库时最好不要用存储过程。
    b、学习成本高,DBA一般都擅长写存储过程,但并不是每个程序员都能写好存储过程,除非你的团队有较多的开发人员熟悉写存储过程,否则后期系统维护会产生问题。
    c、业务逻辑多处存在,采用存储过程后也就意味着你的系统有一些业务逻辑不是在应用程序里处理,这种架构会增加一些系统维护和调试成本。
    d、存储过程和常用应用程序语言不一样,它支持的函数及语法有可能不能满足需求,有些逻辑就只能通过应用程序处理。
    e、如果存储过程中有复杂运算的话,会增加一些数据库服务端的处理成本,对于集中式数据库可能会导致系统可扩展性问题。
    f、为了提高性能,数据库会把存储过程代码编译成中间运行代码(类似于java的class文件),所以更像静态语言。当存储过程引用的对像(表、视图等等)结构改变后,存储过程需要重新编译才能生效,在24*7高并发应用场景,一般都是在线变更结构的,所以在变更的瞬间要同时编译存储过程,这可能会导致数据库瞬间压力上升引起故障(Oracle数据库就存在这样的问题)。

    个人观点:普通业务逻辑尽量不要使用存储过程,定时性的ETL任务或报表统计函数可以根据团队资源情况采用存储过程处理。



    5、优化业务逻辑
    要通过优化业务逻辑来提高性能是比较困难的,这需要程序员对所访问的数据及业务流程非常清楚。
    举一个案例:
    某移动公司推出优惠套参,活动对像为VIP会员并且2010年1,2,3月平均话费20元以上的客户。

    那我们的检测逻辑为:
    select avg(money) as avg_money from bill where phone_no='13988888888' and date between '201001' and '201003';
    select vip_flag from member where phone_no='13988888888';
    if avg_money>20 and vip_flag=true then
    begin
      执行套参();
    end;

    如果我们修改业务逻辑为:
    select avg(money) as  avg_money from bill where phone_no='13988888888' and date between '201001' and '201003';
    if avg_money>20 then
    begin
      select vip_flag from member where phone_no='13988888888';
      if vip_flag=true then
      begin
        执行套参();
      end;
    end;

    通过这样可以减少一些判断vip_flag的开销,平均话费20元以下的用户就不需要再检测是否VIP了。最终大大减少了SQL的交互次数。

    四、减少数据库服务器CPU运算 


    1、使用绑定变量
    绑定变量是指SQL中对变化的值采用变量参数的形式提交,而不是在SQL中直接拼写对应的值。





    2、合理使用排序
    对于普通的几十条或上百条记录排序对系统的影响也不会很大。但是当你的记录集增加到上万条以上时,你需要注意是否一定要这么做了,大记录集排序不仅增加了CPU开销,而且可能会由于内存不足发生硬盘排序的现象,当发生硬盘排序时性能会急剧下降。
    以下列出了可能会发生排序操作的SQL语法:
    Order by
    Group by
    Distinct
    Exists子查询
    Not Exists子查询
    In子查询
    Not In子查询
    Union(并集),Union All也是一种并集操作,但是不会发生排序。
    Minus(差集)
    Intersect(交集)
    Create Index
    Merge Join,这是一种两个表连接的内部算法,执行时会把两个表先排序好再连接,应用于两个大表连接的操作。



    3、减少比较操作
    我们SQL的业务逻辑经常会包含一些比较操作,如a=b,a<b之类的操作,对于这些比较操作数据库都体现得很好,但是如果有以下操作,我们需要保持警惕:
    Like模糊查询,如下所示:a like ‘%abc%’
    Like模糊查询对于数据库来说不是很擅长,特别是你需要模糊检查的记录有上万条以上时,性能比较糟糕,这种情况一般可以采用专用Search或者采用全文索引方案来提高性能。

    不能使用索引定位的大量In List,如下所示:a in (:1,:2,:3,…,:n)   ----n>20
    如果这里的a字段不能通过索引比较,那数据库会将字段与in里面的每个值都进行比较运算,如果记录数有上万以上,会明显感觉到SQL的CPU开销加大,这个情况有两种解决方式:
     
     
     4、大量复杂运算在客户端处理
    什么是复杂运算,一般是一秒钟CPU只能做10万次以内的运算。如含小数的对数及指数运算、三角函数、3DES及BASE64数据加密算法等等。
    如果有大量这类函数运算,尽量放在客户端处理

    五、利用更多的资源

    1、客户端多进程并行访问
    多进程并行访问是指在客户端创建多个进程(线程),每个进程建立一个与数据库的连接,然后同时向数据库提交访问请求。当数据库主机资源有空闲时,我们可以采用客户端多进程并行访问的方法来提高性能。如果数据库主机已经很忙时,采用多进程并行访问性能不会提高,反而可能会更慢。所以使用这种方式最好与DBA或系统管理员进行沟通后再决定是否采用。
    例如:
    我们有10000个产品ID,现在需要根据ID取出产品的详细信息,如果单线程访问,按每个IO要5ms计算,忽略主机CPU运算及网络传输时间,我们需要50s才能完成任务。如果采用5个并行访问,每个进程访问2000个ID,那么10s就有可能完成任务。
    那是不是并行数越多越好呢,开1000个并行是否只要50ms就搞定,答案肯定是否定的,当并行数超过服务器主机资源的上限时性能就不会再提高,如果再增加反而会增加主机的进程间调度成本和进程冲突机率。

    以下是一些如何设置并行数的基本建议:
    如果瓶颈在服务器主机,但是主机还有空闲资源,那么最大并行数取主机CPU核数和主机提供数据服务的磁盘数两个参数中的最小值,同时要保证主机有资源做其它任务。
    如果瓶颈在客户端处理,但是客户端还有空闲资源,那建议不要增加SQL的并行,而是用一个进程取回数据后在客户端起多个进程处理即可,进程数根据客户端CPU核数计算。
    如果瓶颈在客户端网络,那建议做数据压缩或者增加多个客户端,采用map reduce的架构处理。
    如果瓶颈在服务器网络,那需要增加服务器的网络带宽或者在服务端将数据压缩后再处理了。

     
    2、数据库并行处理
    数据库并行处理是指客户端一条SQL的请求,数据库内部自动分解成多个进程并行处理。
    并不是所有的SQL都可以使用并行处理,一般只有对表或索引进行全部访问时才可以使用并行。数据库表默认是不打开并行访问,所以需要指定SQL并行的提示,如下所示:
    select /*+parallel(a,4)*/ * from employee;

     
    并行的优点:
    使用多进程处理,充分利用数据库主机资源(CPU,IO),提高性能。

    并行的缺点:
    1、单个会话占用大量资源,影响其它会话,所以只适合在主机负载低时期使用;
    2、只能采用直接IO访问,不能利用缓存数据,所以执行前会触发将脏缓存数据写入磁盘操作。

     
    注:
    1、并行处理在OLTP类系统中慎用,使用不当会导致一个会话把主机资源全部占用,而正常事务得不到及时响应,所以一般只是用于数据仓库平台。
    2、一般对于百万级记录以下的小表采用并行访问性能并不能提高,反而可能会让性能更差。

  • 相关阅读:
    Collections接口下的Comparetor类和Comparable接口排序
    MySQL(二)、数据库数据类型
    MySQL(表设置、详细说明查询操作)、JDBC基础
    IO流:对象流、Poperties类
    IO流:System.in、SequenceInputStream合并流、内存输入输出流、数据流
    IO流:文件对象、字符流、字节流、缓冲流
    泛型
    集合
    String常用方法、toString()、equals()、compareTo()
    继承、抽象、接口、封装
  • 原文地址:https://www.cnblogs.com/duanxz/p/2637606.html
Copyright © 2011-2022 走看看