zoukankan      html  css  js  c++  java
  • MySQL索引及查询优化总结 专题

    小结:
    db名与应用名相同,表名:业务名_此表的作用 ,表名表示内容,不体现数量,如果表示boolean概念,表名需要使用is_业务含义来表示,但POJO中不应该出现isXXX,因为不方便序列化,中间的对应关系,使用ResultMap来映射
    字段名中有多个单词,使用下划线连接,字段名不能以数字打着,数字和单词之间,只需要一个下划线,譬如xx_3xx,不建议写成xx_3_xx
    最左前缀原则    如果是联合索引,Btree索引在使用时受索引建立的字段顺序的影响
    where条件中有or,建议拆成union all语句,因为有or存在会放弃索引,而使用全表扫描
    能用union all 就不要使用union
    能不使用left join就不要使用left join,因为有临时表生成
    Btree索引 在使用时如果遇到order by ,索引 a_b_c ,则 select a,b,c from tb where a=xx and b=xx order by c 则会使用索引
    如果a或b是条件判断,则不能使用索引
    字段不要存null,可以写空字段串或0,因为where子句中对字段进行null值判断,否则将导致引擎放弃使用索引而进行全表扫描

    尽量避免使用!= 或 <>操作符,否则数据库引擎会放弃使用索引而进行全表扫描。使用>或<会比较高效。

    尽量避免在where子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。
    order by 语句优化
    任何在Order by语句的非索引项或者有计算表达式都将降低查询速度。
    方法:
    1.重写order by语句以使用索引;
    2.为所使用的列建立另外一个索引;
    3.绝对避免在order by子句中使用表达式;

    ORDER BY子句,尽量使用Index方式排序,避免使用FileSort方式排序
    尽量使用高选择性的过引来过滤数据




    文章《MySQL查询分析》讲述了使用MySQL慢查询和explain命令来定位mysql性能瓶颈的方法,定位出性能瓶颈的sql语句后,则需要对低效的sql语句进行优化。本文主要讨论MySQL索引原理及常用的sql查询优化。

    一个简单的对比测试

    前面的案例中,c2c_zwdb.t_file_count表只有一个自增id,FFileName字段未加索引的sql执行情况如下:

    在上图中,type=all,key=null,rows=33777。该sql未使用索引,是一个效率非常低的全表扫描。如果加上联合查询和其他一些约束条件,数据库会疯狂的消耗内存,并且会影响前端程序的执行。

    这时给FFileName字段添加一个索引:

    alter table c2c_zwdb.t_file_count add index index_title(FFileName);

    再次执行上述查询语句,其对比很明显:

    在该图中,type=ref,key=索引名(index_title),rows=1。该sql使用了索引index_title,且是一个常数扫描,根据索引只扫描了一行。

    比起未加索引的情况,加了索引后,查询效率对比非常明显。

    MySQL索引

    通过上面的对比测试可以看出,索引是快速搜索的关键。MySQL索引的建立对于MySQL的高效运行是很重要的。对于少量的数据,没有合适的索引影响不是很大,但是,当随着数据量的增加,性能会急剧下降。如果对多列进行索引(组合索引),列的顺序非常重要,MySQL仅能对索引最左边的前缀进行有效的查找。

    下面介绍几种常见的MySQL索引类型。

    索引分单列索引和组合索引。单列索引,即一个索引只包含单个列,一个表可以有多个单列索引,但这不是组合索引。组合索引,即一个索引包含多个列。

    1、MySQL索引类型

    (1) 主键索引 PRIMARY KEY

    它是一种特殊的唯一索引,不允许有空值。一般是在建表的时候同时创建主键索引。

    当然也可以用 ALTER 命令。记住:一个表只能有一个主键。

    (2) 唯一索引 UNIQUE

    唯一索引列的值必须唯一,但允许有空值。如果是组合索引,则列值的组合必须唯一。可以在创建表的时候指定,也可以修改表结构,如:

    ALTER TABLE table_name ADD UNIQUE (column)

    (3) 普通索引 INDEX

    这是最基本的索引,它没有任何限制。可以在创建表的时候指定,也可以修改表结构,如:

    ALTER TABLE table_name ADD INDEX index_name (column)

    (4) 组合索引 INDEX

    组合索引,即一个索引包含多个列。可以在创建表的时候指定,也可以修改表结构,如:

    ALTER TABLE table_name ADD INDEX index_name(column1column2column3)

    (5) 全文索引 FULLTEXT

    全文索引(也称全文检索)是目前搜索引擎使用的一种关键技术。它能够利用分词技术等多种算法智能分析出文本文字中关键字词的频率及重要性,然后按照一定的算法规则智能地筛选出我们想要的搜索结果。

    可以在创建表的时候指定,也可以修改表结构,如:

    ALTER TABLE table_name ADD FULLTEXT (column)

    2、索引结构及原理

    mysql中普遍使用B+Tree做索引,但在实现上又根据聚簇索引和非聚簇索引而不同,本文暂不讨论这点。

    b+树介绍

    下面这张b+树的图片在很多地方可以看到,之所以在这里也选取这张,是因为觉得这张图片可以很好的诠释索引的查找过程。

    如上图,是一颗b+树。浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。

    真实的数据存在于叶子节点,即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。

    查找过程

    在上图中,如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

    性质

    (1) 索引字段要尽量的小。

    通过上面b+树的查找过程,或者通过真实的数据存在于叶子节点这个事实可知,IO次数取决于b+数的高度h。

    假设当前数据表的数据量为N,每个磁盘块的数据项的数量是m,则树高h=㏒(m+1)N,当数据量N一定的情况下,m越大,h越小;

    而m = 磁盘块的大小/数据项的大小,磁盘块的大小也就是一个数据页的大小,是固定的;如果数据项占的空间越小,数据项的数量m越多,树的高度h越低。这就是为什么每个数据项,即索引字段要尽量的小,比如int占4字节,要比bigint8字节少一半。

    (2) 索引的最左匹配特性。

    当b+树的数据项是复合的数据结构,比如(name,age,sex)的时候,b+数是按照从左到右的顺序来建立搜索树的,比如当(张三,20,F)这样的数据来检索的时候,b+树会优先比较name来确定下一步的所搜方向,如果name相同再依次比较age和sex,最后得到检索的数据;但当(20,F)这样的没有name的数据来的时候,b+树就不知道下一步该查哪个节点,因为建立搜索树的时候name就是第一个比较因子,必须要先根据name来搜索才能知道下一步去哪里查询。比如当(张三,F)这样的数据来检索时,b+树可以用name来指定搜索方向,但下一个字段age的缺失,所以只能把名字等于张三的数据都找到,然后再匹配性别是F的数据了, 这个是非常重要的性质,即索引的最左匹配特性。

    建索引的几大原则

    (1) 最左前缀匹配原则

    对于多列索引,总是从索引的最前面字段开始,接着往后,中间不能跳过。比如创建了多列索引(name,age,sex),会先匹配name字段,再匹配age字段,再匹配sex字段的,中间不能跳过。
    mysql会一直向右匹配直到遇到范围查询(>、<、between、like)就停止匹配。

    一般,在创建多列索引时,where子句中使用最频繁的一列放在最左边

    看一个补符合最左前缀匹配原则和符合该原则的对比例子。

    实例:表c2c_db.t_credit_detail建有索引(Flistid,Fbank_listid)

    不符合最左前缀匹配原则的sql语句:

    select * from t_credit_detail where Fbank_listid='201108010000199'G

    该sql直接用了第二个索引字段Fbank_listid,跳过了第一个索引字段Flistid,不符合最左前缀匹配原则。
    用explain命令查看sql语句的执行计划,如下图:

    从上图可以看出,该sql未使用索引,是一个低效的全表扫描。

    符合最左前缀匹配原则的sql语句:

    select * from t_credit_detail where Flistid='2000000608201108010831508721' and Fbank_listid='201108010000199'G

    该sql先使用了索引的第一个字段Flistid,再使用索引的第二个字段Fbank_listid,中间没有跳过,符合最左前缀匹配原则。
    用explain命令查看sql语句的执行计划,如下图:

    从上图可以看出,该sql使用了索引,仅扫描了一行。

    对比可知,符合最左前缀匹配原则的sql语句比不符合该原则的sql语句效率有极大提高,从全表扫描上升到了常数扫描。

    (2) 尽量选择区分度高的列作为索引。

    比如,我们会选择学号做索引,而不会选择性别来做索引。

    (3) =和in可以乱序

    比如a = 1 and b = 2 and c = 3,建立(a,b,c)索引可以任意顺序,mysql的查询优化器会帮你优化成索引可以识别的形式。

    (4) 索引列不能参与计算,保持列“干净”

    比如:Flistid+1>‘2000000608201108010831508721‘。原因很简单,假如索引列参与计算的话,那每次检索时,都会先将索引计算一次,再做比较,显然成本太大。

    (5) 尽量的扩展索引,不要新建索引。

    比如表中已经有a的索引,现在要加(a,b)的索引,那么只需要修改原来的索引即可。

    索引的不足

    虽然索引可以提高查询效率,但索引也有自己的不足之处。

    索引的额外开销:

    (1) 空间:索引需要占用空间;

    (2) 时间:查询索引需要时间;

    (3) 维护:索引须要维护(数据变更时);

    不建议使用索引的情况:

    (1) 数据量很小的表

    (2) 空间紧张

    常用优化总结

    优化语句很多,需要注意的也很多,针对平时的情况总结一下几点:

    1、有索引但未被用到的情况(不建议)

    (1) Like的参数以通配符开头时

    尽量避免Like的参数以通配符开头,否则数据库引擎会放弃使用索引而进行全表扫描。

    以通配符开头的sql语句,例如:select * from t_credit_detail where Flistid like '%0'G

    这是全表扫描,没有使用到索引,不建议使用。

    不以通配符开头的sql语句,例如:select * from t_credit_detail where Flistid like '2%'G

    很明显,这使用到了索引,是有范围的查找了,比以通配符开头的sql语句效率提高不少。

    (2) where条件不符合最左前缀原则时

    例子已在最左前缀匹配原则的内容中有举例。

    (3) 使用!= 或 <> 操作符时

    尽量避免使用!= 或 <>操作符,否则数据库引擎会放弃使用索引而进行全表扫描。使用>或<会比较高效。

    select * from t_credit_detail where Flistid != '2000000608201108010831508721'G

    (4) 索引列参与计算

    应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。

    select * from t_credit_detail where Flistid +1 > '2000000608201108010831508722'G

    (5) 对字段进行null值判断

    应尽量避免在where子句中对字段进行null值判断,否则将导致引擎放弃使用索引而进行全表扫描,如:
    低效:select * from t_credit_detail where Flistid is null ;

    可以在Flistid上设置默认值0,确保表中Flistid列没有null值,然后这样查询:
    高效:select * from t_credit_detail where Flistid =0;

    (6) 使用or来连接条件

    应尽量避免在where子句中使用or来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,如:
    低效:select * from t_credit_detail where Flistid = '2000000608201108010831508721' or Flistid = '10000200001';

    可以用下面这样的查询代替上面的 or 查询:
    高效:

    SELECT
        *
    FROM
        t_credit_detail
    WHERE
        Flistid = '2000000608201108010831508721'
    UNION ALL
        SELECT
            *
        FROM
            t_credit_detail
        WHERE
            Flistid = '10000200001'

    2、避免select *

    在解析的过程中,会将'*' 依次转换成所有的列名,这个工作是通过查询数据字典完成的,这意味着将耗费更多的时间。

    所以,应该养成一个需要什么就取什么的好习惯。

    3、order by 语句优化

    任何在Order by语句的非索引项或者有计算表达式都将降低查询速度。

    方法:1.重写order by语句以使用索引;

      2.为所使用的列建立另外一个索引
    
      3.绝对避免在order by子句中使用表达式。
    

    4、GROUP BY语句优化

    提高GROUP BY 语句的效率, 可以通过将不需要的记录在GROUP BY 之前过滤掉

    低效:

    SELECT JOB , AVG(SAL)

    FROM EMP

    GROUP by JOB

    HAVING JOB = ‘PRESIDENT'

    OR JOB = ‘MANAGER'

    高效:

    SELECT JOB , AVG(SAL)

    FROM EMP

    WHERE JOB = ‘PRESIDENT'

    OR JOB = ‘MANAGER'

    GROUP by JOB

    5、用 exists 代替 in

    很多时候用 exists 代替 in 是一个好的选择:
    select num from a where num in(select num from b)
    用下面的语句替换:
    select num from a where exists(select 1 from b where num=a.num)

    6、使用 varchar/nvarchar 代替 char/nchar

    尽可能的使用 varchar/nvarchar 代替 char/nchar ,因为首先变长字段存储空间小,可以节省存储空间,其次对于查询来说,在一个相对较小的字段内搜索效率显然要高些。

    7、能用DISTINCT的就不用GROUP BY

    SELECT OrderID FROM Details WHERE UnitPrice > 10 GROUP BY OrderID

    可改为:

    SELECT DISTINCT OrderID FROM Details WHERE UnitPrice > 10

    8、能用UNION ALL就不要用UNION

    UNION ALL不执行SELECT DISTINCT函数,这样就会减少很多不必要的资源。

    9、在Join表的时候使用相当类型的例,并将其索引

    如果应用程序有很多JOIN 查询,你应该确认两个表中Join的字段是被建过索引的。这样,MySQL内部会启动为你优化Join的SQL语句的机制。

    而且,这些被用来Join的字段,应该是相同的类型的。例如:如果你要把 DECIMAL 字段和一个 INT 字段Join在一起,MySQL就无法使用它们的索引。对于那些STRING类型,还需要有相同的字符集才行。(两个表的字符集有可能不一样)

    欢迎加入QQ群:374933367,与腾云阁原创作者们一起交流,更有机会参与技术大咖的在线分享!

    相关阅读

    5 步优化 MongoDB 以及其它数据库
    埋在MYSQL数据库应用中的17个关键问题!
    当谈 SQL 优化时谈些什么?


    此文已由作者授权腾讯云技术社区发布,转载请注明文章出处
    原文链接:https://www.qcloud.com/community/article/382852

    http://www.cnblogs.com/qcloud1001/p/6814585.html

    MySQL InnoDB B-Tree索引使用Tips

    这里主要讨论一下InnoDB B-Tree索引的使用,不提设计,只管使用。B-Tree索引主要作用于WHERE和ORDER BY子句。这里讨论的均在MySQL-Server-5.1.42测试

    CREATE TABLE `friends` (
        `ID` INT (10) UNSIGNED NOT NULL AUTO_INCREMENT,
        `uid` BIGINT (20) UNSIGNED NOT NULL DEFAULT '0',
        `fuid` BIGINT (20) UNSIGNED NOT NULL DEFAULT '0',
        `fname` VARCHAR (50) NOT NULL DEFAULT '',
        `fpicture` VARCHAR (150) NOT NULL DEFAULT '',
        `fsex` TINYINT (1) UNSIGNED NOT NULL DEFAULT '0',
        `status` TINYINT (1) NOT NULL DEFAULT '0',
        PRIMARY KEY (`ID`)
    ) ENGINE = INNODB AUTO_INCREMENT = 1 DEFAULT CHARSET = utf8;
    
    ALTER TABLE `friends` ADD INDEX idx_uid_fuid (uid, fuid);

    1.如果索引了多列,要遵守最左前缀法则所谓最左前列,指的是查询从索引的最左前列开始,并且不跳过索引中的列。

    第2条语句,从索引的第二列开始查找,使用索引失败,导致MySQL采用ALL访问策略,即全表查询.在开发中,应该尽量避免全表查询。
    2.当MySQL一旦估计检查的行数可能会”太多”,范围查找优化将不会被使用

    第2条语句使用了全表查询,它与第1条语句唯一的区别在于需要检查的行数远远多于第1条语句。在应用中,可能不会碰到这么大的查询,但是应该避免这样的查 询出现: select uid from users where registered < 1295001384
    3.索引列不应该作为表达式的一部分,即也不能在索引列上使用函数

    第2和3条语句都有使用表达式,索引派不上用场。
    4.尽量借用覆盖索引,减少select * from …语句使用

    第1句Extra中使用了Using index表示使用了覆盖索引。第3句也使用了覆盖索引,虽然ID不在索引uid_fuid索引列中,但是InnoDB二次索引(second index)叶子页的值就是PK值,不同于MyISAM。
    Extra部分的Using index表示应用了索引,不要跟type中的index混淆。第2句没有使用覆盖索引,因为fsex不在索引中。
    5.ORDER BY子句,尽量使用Index方式排序,避免使用FileSort方式排序
    MySQL支持二种方式的排序,FileSort和Index,后者效率高,它指MySQL扫描索引本身完成排序。FileSort方式效率较低。ORDER BY满足以下情况,会使用Index方式排序:
                a)ORDER BY 语句使用索引最左前列。参见第1句
                b)使用Where子句与Order BY子句条件列组合满足索引最左前列。参见第2句.
    以下情况,会使用FileSort方式的查询

    a)检查的行数过多,且没有使用覆盖索引。第3句,虽然跟第2句一样,order by使用了索引最左前列uid,但依然使用了filesort方式排序,因为status并不在索引中,所以没办法只扫描索引。
    b)使用了不同的索引,MySQL每回只采用一个索引.第4句,order by出现二个索引,分别是uid_fuid和聚集索引(pk)
    c)对索引列同时使用了ASC和DESC。 通过where语句将order by中索引列转为常量,则除外。
    第5句,和第6句在order by子句中,都出现了ASC和DESC排序,但是第5句却使用了filesort方式排序,是因为第6句where uid取出排序需要的数据,MySQL将其转为常量,它的ref列为const。
    d)where语句与order by语句,使用了不同的索引。参见第7句。
    e)where语句或者ORDER BY语句中索引列使用了表达式,包括函数表达式。参见第8,9句
    f)where 语句与ORDER BY语句组合满足最左前缀,但where语句中使用了条件查询。查见第10句,虽然where与order by构成了索引最左有缀的条件,但是where子句中使用的是条件查询。
    g)order by子句中加入了非索引列,且非索引列不在where子句中。
    h)order by或者它与where组合没有满足索引最左前列。参见第11句和12句,where与order by组合,不满足索引最左前列. (uid, fsex)跳过了fuid
    i)当使用left join,使用右边的表字段排序。参见第13句,尽管user.uid是pk,依然会使用filesort排序。



    6.慎用left join语句,避免创建临时表 使用left join语句的时候,避免出现创建临时表。尽量不要用left join,分而治之。非要使用的时候,要询问自己是不是真要必须要使用。

    7.高选择性索引列。 尽量使用高选择性的过引来过滤数据。高选择性指Cardinality/#T越接近1,选择性越高,其中Cardinality指表中索引列不重复值(行)的总数。PK和唯一索引,具有最高的选择性,即1。推荐可选性达到20%以上。

    这里有二个索引可供使用,而MySQL选择PRIMARY,是因为它具有更高的选择性。
    8.谨防where子句中的OR。where语句使用or,且没有使用覆盖索引,会进行全表扫描。应该尽量避免这样OR语句。尽量使用UNION代替OR

    第1句虽然使用了索引,但是查行时间依然不可以恭维,mysql要检查的行很多,但是返回的行却很少.
    Extra中的using where表示需要通过where子句扔弃不需要的数据行。
    9.LIMIT与覆盖索引 limit子句,使用覆盖索引时比没有使用覆盖索引会快很多

    转自:http://my.oschina.net/longniao/blog/110384?fromerr=dKzaJdu1

    http://www.cnblogs.com/wangxusummer/p/5329813.html

  • 相关阅读:
    Three.js黑暗中的萤火虫
    Three.js会飞走飞回来的鸟
    Three.js响应和移动物体
    Three.js加载gltf模型
    Three.js创建运动立体几何体示例
    activemq artemis安装运行及其在springboot中的使用
    activemq安装运行及其在springboot中的queue和topic使用
    springboot成神之——mybatis和mybatis-generator
    java成神之——安全和密码
    java成神之——网络编程基本操作
  • 原文地址:https://www.cnblogs.com/softidea/p/6855066.html
Copyright © 2011-2022 走看看