zoukankan      html  css  js  c++  java
  • SQL优化-如何分析性能瓶颈

    MySQL优化一览图

     

    笔者将优化分为了两大类:软优化和硬优化。软优化一般是操作数据库即可;而硬优化则是操作服务器硬件及参数设置。

    1、软优化

    1)查询语句优化

    首先我们可以用EXPLAIN或DESCRIBE(简写:DESC)命令分析一条查询语句的执行信息。

    例:

    DESC SELECT * FROM `user`

    其中会显示索引和查询数据读取数据条数等信息。

    2)优化子查询

    在MySQL中,尽量使用JOIN来代替子查询。因为子查询需要嵌套查询,嵌套查询时会建立一张临时表,临时表的建立和删除都会有较大的系统开销,而连接查询不会创建临时表,因此效率比嵌套子查询高。

    3)使用索引

    索引是提高数据库查询速度最重要的方法之一,使用索引的三大注意事项包括:

    LIKE关键字匹配'%'开头的字符串,不会使用索引;
    OR关键字的两个字段必须都是用了索引,该查询才会使用索引;
    使用多列索引必须满足最左匹配。

    4)分解表

    对于字段较多的表,如果某些字段使用频率较低,此时应当将其分离出来从而形成新的表。

    5)中间表

    对于将大量连接查询的表可以创建中间表,从而减少在查询时造成的连接耗时。

    6)增加冗余字段

    类似于创建中间表,增加冗余也是为了减少连接查询。

    7)分析表、检查表、优化表

    分析表主要是分析表中关键字的分布;检查表主要是检查表中是否存在错误;优化表主要是消除删除或更新造成的表空间浪费。

    分析表: 使用 ANALYZE 关键字,如ANALYZE TABLE user

    Op: 表示执行的操作;
    Msg_type: 信息类型,有status、info、note、warning、error;
    Msg_text: 显示信息。

    检查表: 使用 CHECK关键字,如CHECK TABLE user [option]。 option 只对MyISAM有效。共五个参数值:

    QUICK: 不扫描行,不检查错误的连接;
    FAST: 只检查没有正确关闭的表;
    CHANGED: 只检查上次检查后被更改的表和没被正确关闭的表;
    MEDIUM: 扫描行,以验证被删除的连接是有效的,也可以计算各行关键字校验和;
    EXTENDED: 最全面的的检查,对每行关键字全面查找。
    优化表: 使用OPTIMIZE关键字,如OPTIMIZE [LOCAL|NO_WRITE_TO_BINLOG] TABLE user;

    LOCAL|NO_WRITE_TO_BINLOG都是表示不写入日志,优化表只对VARCHAR、BLOB和TEXT有效,通过OPTIMIZE TABLE语句可以消除文件碎片,在执行过程中会加上只读锁。

    2、硬优化

    1)硬件三件套

    配置多核心和频率高的cpu,多核心可以执行多个线程;
    配置大内存,提高内存,即可提高缓存区容量,因此能减少磁盘I/O时间,从而提高响应速度;
    配置高速磁盘或合理分布磁盘:高速磁盘提高I/O,分布磁盘能提高并行操作的能力。

    2)优化数据库参数

    优化数据库参数可以提高资源利用率,从而提高MySQL服务器性能。MySQL服务的配置参数都在my.cnf或my.ini,下面列出性能影响较大的几个参数:

    key_buffer_size: 索引缓冲区大小;
    table_cache: 能同时打开表的个数;
    query_cache_size和query_cache_type: 前者是查询缓冲区大小,后者是前面参数的开关,0表示不使用缓冲区,1表示使用缓冲区,但可以在查询中使用SQL_NO_CACHE表示不要使用缓冲区,2表示在查询中明确指出使用缓冲区才用缓冲区,即SQL_CACHE;
    sort_buffer_size: 排序缓冲区。

    3)分库分表

    因为数据库压力过大,首先一个问题就是高峰期系统性能可能会降低,因为数据库负载过高对性能会有影响。

    另外一个,压力过大把你的数据库给搞挂了怎么办?

    所以此时你必须得对系统做分库分表+读写分离,也就是把一个库拆分为多个库,部署在多个数据库服务上,这时作为主库承载写入请求。然后每个主库都挂载至少一个从库,由从库来承载读请求。

    4)缓存集群

    如果用户量越来越大,此时你可以不停的加机器,比如说系统层面不停加机器,就可以承载更高的并发请求。

    然后数据库层面如果写入并发越来越高,就扩容加数据库服务器,通过分库分表是可以支持扩容机器的,如果数据库层面的读并发越来越高,就扩容加更多的从库。

    但是这里有一个很大的问题:

    数据库其实本身不是用来承载高并发请求的,所以通常来说,数据库单机每秒承载的并发就在几千的数量级,而且数据库使用的机器都是比较高配置,比较昂贵的机器,成本很高。

    如果你就是简单的不停的加机器,其实是不对的。

    所以在高并发架构里通常都有缓存这个环节,缓存系统的设计就是为了承载高并发而生。单机承载的并发量都在每秒几万,甚至每秒数十万,对高并发的承载能力比数据库系统要高出一到两个数量级。

    你完全可以根据系统的业务特性,对那种写少读多的请求,引入缓存集群。

    具体来说,就是在写数据库的时候同时写一份数据到缓存集群里,然后用缓存集群来承载大部分的读请求。这样的话,通过缓存集群,就可以用更少的机器资源承载更高的并发。

     

     

    ==================================================================================================

    ==================================================================================================

    ==================================================================================================

    MySQL慢SQL优化-如何分析性能瓶颈

    优化慢SQL首先得知道瓶颈在哪,本文主要介绍慢SQL性能瓶颈分析。本文就以前段时间参加的一个SQL优化活动为例。
    mysql命令行或者一些可视化工具在sql执行时间的精度比较低,尤其是命令行只显示到10ms,所以需要打开mysql的执行时间监听:

    set profiling = 1;

    然后使用

    show profiles;

    命令就可查看sql的执行时间。

    例如:

    mysql> show profiles;
    +----------+------------+------------------------------------------------------------------------------------------------------------------------------------------------
    -------------------------------------------------------------------------------------------------------------------------------------------+
    | Query_ID | Duration   | Query
                                                                                                                                               |
    +----------+------------+------------------------------------------------------------------------------------------------------------------------------------------------
    -------------------------------------------------------------------------------------------------------------------------------------------+
    |        1 | 0.18553425 | select a.seller_id,a.seller_name,b.user_name,c.state   from  a,b,c
    where  a.seller_name=b.seller_name  and    b.user_id=c.user_id   and  c.user_id=17  and
    a.gmt_create BETWEEN DATE_ADD(NOW(), INTERVAL - 600 MINUTE) AND  DATE_ADD(NOW(), INTERVAL 600 MINUTE)  order  by  a.gmt_create |
    +----------+------------+------------------------------------------------------------------------------------------------------------------------------------------------
    -------------------------------------------------------------------------------------------------------------------------------------------+
    1 row in set, 1 warning (0.00 sec)

    在命令行中执行完sql后,使用 show profiles; 语句就可显示上面的执行历史信息,找到对应的,可以看到我刚测试的执行了0.18553425s这个精度就相当高。
    接下来我们使用explain语句分析这条语句在所牵连的表中一共遍历了多少纪录

    mysql> explain
        -> select a.seller_id,a.seller_name,b.user_name,c.state   from  a,b,c
        -> where  a.seller_name=b.seller_name  and    b.user_id=c.user_id   and  c.user_id=17  and
        -> a.gmt_create BETWEEN DATE_ADD(NOW(), INTERVAL - 600 MINUTE) AND  DATE_ADD(NOW(), INTERVAL 600 MINUTE)  order  by  a.gmt_create
        -> ;
    +----+-------------+-------+------------+------+---------------+------+---------+------+--------+----------+----------------------------------------------------+
    | id | select_type | table | partitions | type | possible_keys | key  | key_len | ref  | rows   | filtered | Extra                                              |
    +----+-------------+-------+------------+------+---------------+------+---------+------+--------+----------+----------------------------------------------------+
    |  1 | SIMPLE      | a     | NULL       | ALL  | NULL          | NULL | NULL    | NULL |  16108 |    11.11 | Using where; Using temporary; Using filesort       |
    |  1 | SIMPLE      | b     | NULL       | ALL  | NULL          | NULL | NULL    | NULL |  16592 |    10.00 | Using where; Using join buffer (Block Nested Loop) |
    |  1 | SIMPLE      | c     | NULL       | ALL  | NULL          | NULL | NULL    | NULL | 359382 |     1.00 | Using where; Using join buffer (Block Nested Loop) |
    +----+-------------+-------+------------+------+---------------+------+---------+------+--------+----------+----------------------------------------------------+
    3 rows in set, 1 warning (0.00 sec)

    这里有一个介绍的对这个结果各个列介绍比较好的网页explain结果介绍

    从上面的分析中发现每个表的数据遍历了很多(其实是全部),可以添加索引进行优化同时可以看到a表extra有using temorary就是使用临时表,这是需要优化的。

    这篇文章比较简单,主要讲了mysql的相关使用,等以后再sql优化有了更多的心得一定在总结。

    PS
    关于join的优化
    在没有分库分表的时候,join在建立合适的索引后还是可用的。
    关于join的原理 嵌套循环算法,通过join链接的字段一般要建立索义。

    看过嵌套循环算法后,其实A left B和B left A在算法复杂度上没有区别,所以还是根据业务选择即可。
    同时,嵌套循环的数据并不一定是全表数据,如果where中约束其中一个表,假设是B,这时在循环遍历B表是遍历where约束的数据量,所以并不是全量对比。


    原文链接:https://blog.csdn.net/u013592964/article/details/76154170

    原文地址:https://www.toutiao.com/a6733466794163454472/?timestamp=1569375599&app=news_article_lite&group_id=6733466794163454472&req_id=201909250939590100260790161ABB2A15

  • 相关阅读:
    常见时间复杂度及对应关系
    【转载】Locust实现集合点
    curl 查看接口的网络分段响应时间
    python-字符串操作分类小结
    Jquery--1--选择器分类
    【转】linux shell编程实例总结
    随笔分类整理
    linux备忘录-日志档案
    linux备忘录-系统服务daemon
    linux备忘录-程序管理与SELinux
  • 原文地址:https://www.cnblogs.com/111testing/p/11716650.html
Copyright © 2011-2022 走看看