zoukankan      html  css  js  c++  java
  • 性能测试之Mysql数据库调优

    一、前言

    性能调优前提:无监控不调优,对于mysql性能的监控前几天有文章提到过,有兴趣的朋友可以去看一下

    二、Mysql性能指标及问题分析和定位

    1、我们在监控图表中关注的性能指标大概有这么几个:CPU、内存、连接数、io读写时间、io操作时间、慢查询、系统平均负载以及memoryOver

    2、介绍下Grafana模板中各性能指标的意思

    这个是Mysql数据库的连接数

    这个图标表示了慢查询

     上图就是Mysql数据库的缓存区,展示了最大缓存以及已使用缓存等数据

    3、性能分析

    一般在产生Mysql瓶颈的时候往往伴随着的是CPU使用率急速上升,需要top看一下是哪个线程占据了大量的CPU资源,如果发现Mysql进程占用较高,那么基本可以判断是Mysql数据库出现了问题。

    接下来就是对问题具体的分析和定位。

    对于数据库的操作基本上就是大量的查询,会导致数据库出现性能问题。对有问题的场景使用Jmeter模拟场景进行并发,并观察Grafana的图表。

    Mysql的几个问题基本上就是:1、缓存区较小,大量查询导致了缓存区溢出,使用io进行读写,众所周知,io的读写速度远远比内存读写速度要慢得多。

    2、sql语句问题,导致mysql数据库出现瓶颈的查询语句类型很多,最后会给大家列举一些。

    那么怎么定位到这些问题呢?

    (1)在负载测试中,通过Grafana图表观察Memory Over这个图表,如果发现占用基本占满所分配给Mysql数据库缓存区的内存,然后IO读写时间非常长,读写频率非常高,那基本上是可以判断是缓存区较小导致的问题。(这个问题已经很少出现了)

    (2)判断慢查询:在mysql数据库的配置文件中找到

    log_output=file,table #二选 1 或者 2 个都选
    slow_query_log=on 
    slow_query_log_file = /tmp/mysql-slow.log long_query_time = 1    #设置如何判断慢查询,这边设置超过1s就算慢查询 
    #使用完记得关闭

    重启Mysql数据库

    在Grafana图表中如果看到慢查询的时间超过1s时,基本判断为存在慢查询。

    登入数据库运行命令

    select * from mysql.slow_log;#查看慢查询表数据

    运行完这条命令后,可以查看到所有超过1s的查询语句,这个时候复制这条语句到查询输入框中,选中右键点击解释。

    type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别
    key列,使用到的索引名。如果没有选择索引,值是NULL。可以采取强制索引方式
    key_len列,索引长度
    rows列,扫描行数。该值是个预估值
    extra列,详细说明。注意常见的不太友好的值有:Using filesort, Using temporary

    三、sql语句调优

    一、SQL语句中IN包含的值不应过多

    MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from t where num in(1,2,3) 对于连续的数值,能用 between 就不要用 in 了;再或者使用连接来替换。

    三、SELECT语句务必指明字段名称

    SELECT *增加很多不必要的消耗(cpu、io、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。

    四、当只需要一条数据的时候,使用limit 1

    这是为了使EXPLAIN中type列达到const类型

    五、如果排序字段没有用到索引,就尽量少排序

    六、如果限制条件中其他字段没有索引,尽量少用or

    or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用 union all 或者是union(必要的时候)的方式来代替“or”会得到更好的效果

    七、区分in和exists, not in和not exists

    select * from 表A where id in (select id from 表B)
    上面sql语句相当于
    select * from 表A where exists(select * from 表B where 表B.id=表A.id)
    区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况。
    关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的sql语句?
    原sql语句
    select colname … from A表 where a.id not in (select b.id from B表)
    高效的sql语句
    select colname … from A表 Left join B表 on where a.id = b.id where b.id is null

    八、分段查询

    在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示

    九、避免在 where 子句中对字段进行 null 值判断

    对于null的判断会导致引擎放弃使用索引而进行全表扫描。

    十、不建议使用%前缀模糊查询

    例如LIKE “%name”或者LIKE “%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。

    十一、注意范围查询语句

    对于联合索引来说,如果存在范围查询,比如between,>,<等条件时,会造成后面的索引字段失效。

    type

    访问类型

    ALL   扫描全表数据

    index 遍历索引

    range 索引范围查找

    index_subquery 在子查询中使用 ref

    unique_subquery 在子查询中使用 eq_ref

    ref_or_null 对Null进行索引的优化的 ref

    fulltext 使用全文索引

    ref   使用非唯一索引查找数据

    eq_ref 在join查询中使用PRIMARY KEYorUNIQUE NOT NULL索引关联。

    const 使用主键或者唯一索引,且匹配的结果只有一条记录。

    system const 连接类型的特例,查询的表为系统表。

    性能从好到差依次为:

    system,const,eq_ref,ref,fulltext,ref_or_null,unique_subquery,index_subquery,range,index_merge,index,ALL,除了ALL之外,其他的type都可以使用到索引,除了index_merge之外,其他的type只可以用到一个索引。

    所以,如果通过执行计划发现某张表的查询语句的type显示为ALL,那就要考虑添加索引,或者更换查询方式,使用索引进行查询。

    possible_keys

    可能使用的索引,注意不一定会使用。查询涉及到的字段上若存在索引,则该索引将被列出来。当该列为 NULL时就要考虑当前的SQL是否需要优化了。

    key

    显示MySQL在查询中实际使用的索引,若没有使用索引,显示为NULL。

    TIPS:查询中若使用了覆盖索引(覆盖索引:索引的数据覆盖了需要查询的所有数据),则该索引仅出现在key列表中

    一些SQL优化建议

     1、SQL语句不要写的太复杂。

    一个SQL语句要尽量简单,不要嵌套太多层。

    2、使用like的时候要注意是否会导致全表扫

    3、尽量避免使用!=或<>操作符

    在where语句中使用!=或<>,引擎将放弃使用索引而进行全表扫描。

    4、尽量避免使用 or 来连接条件

    在 where 子句中使用 or 来连接条件,引擎将放弃使用索引而进行全表扫描。

    5、尽量避免使用in和not in

    在 where 子句中使用 in和not in,引擎将放弃使用索引而进行全表扫描。

    6、尽量避免使用表达式、函数等操作作为查询条件

    7、尽量避免大事务操作,提高系统并发能力。

    8、任何地方都不要使用 select * from t ,用具体的字段列表代替“*”,不要返回用不到的任何字段。

    9、尽量使用数字型字段,若只含数值信息的字段尽量不要设计为字符型,这会降低查询和连接的性能,并会增加存储开销。

    10、索引并不是越多越好,索引固然可以提高相应的 select 的效率,但同时也降低了 insert 及 update 的效率

    11、并不是所有索引对查询都有效,SQL是根据表中数据来进行查询优化的,当索引列有大量数据重复时,SQL查询可能不会去利用索引

  • 相关阅读:
    C# 操作配置文件
    C# Excel操作类
    没有找到 mspdb100.dll 的解决办法
    工厂方法模式
    .Net互操作2
    The certificate used to sign “AppName” has either expired or has been revoked. An updated certificate is required to sign and install the application解决
    手机抓包xcode自带命令行工具配合wireshark实现
    expecting SSH2_MSG_KEX_ECDH_REPLY ssh_dispatch_run_fatal问题解决
    使用ssh-keygen设置ssh无密码登录
    远程复制文件到服务器
  • 原文地址:https://www.cnblogs.com/congyiwei/p/12404261.html
Copyright © 2011-2022 走看看