zoukankan      html  css  js  c++  java
  • MySQL调优1---性能监控

    show profile查询剖析工具

    show profiles默认是关闭的

    show variables like 'profiling';--查看参数状态,0或OFF表示关闭(默认模式)。1或ON表示开启
    set profiling=1;--打开show profiles
    

    show profiles可以查询SQL语句执行消耗资源的详细信息。

    show profiles
    

    show profile可以对SQL语句进行分析,查看每部分的执行情况。

    show profile for query 1;--1是上面show profiles执行结果的id
    

    show profile后面常用的查询参数:
      1.all:显示所有性能信息
      2.block io:显示块io操作的次数
      3.context switches:显示上下文切换次数,被动和主动
      4.cpu:显示用户cpu时间、系统cpu时间
      5.IPC:显示发送和接受的消息数量
      6.page faults:显示页错误数量
      7.source:显示源码中的函数名称与位置
      8.swaps:显示swap的次数

    eg:
    show profile all for query n;
    show profile block io for query n;
    show profile context switches for query n;
    

    show processlist 查看当前线程

    查询结果属性说明
    1.id表示session id
    2.user表示操作的用户
    3.host表示操作的主机
    4.db表示操作的数据库
    5.info表示详细的sql语句

    show full processlist;用navicate可以复制出完整的sql
    

    6.time表示相应命令执行时间
    7.state表示命令执行状态
    8.command表示当前状态
    具体状态有以下几种:
      sleep:线程正在等待客户端发送新的请求
      query:线程正在执行查询或正在将结果发送给客户端
      locked:在mysql的服务层,该线程正在等待表锁
      analyzing and statistics:线程正在收集存储引擎的统计信息,并生成查询的执行计划
      Copying to tmp table:线程正在执行查询,并且将其结果集都复制到一个临时表中
      sorting result:线程正在对结果集进行排序
      sending data:线程可能在多个状态之间传送数据,或者在生成结果集或者向客户端返回数据

    performance schema 性能模式

    1.performance_schema简介

    MySQL的performance schema 用于监控MySQL server在一个较低级别的运行过程中的资源消耗、资源等待等情况
    performance_schema的表中的数据不会持久化存储在磁盘中,而是保存在内存中,一旦服务器重启,这些数据会丢失
    performance_schema通过监视server的事件来实现监视server内部运行情况,事件的采集可以方便的提供server中的相关存储引擎对磁盘文件、表I/O、表锁等资源的同步调用信息。记录的是server执行某些活动对某些资源的消耗、耗时、这些活动执行的次数等情况。
    performance_schema中的事件只记录在本地server的performance_schema中,其下的这些表中数据发生变化时不会被写入binlog中,也不会通过复制机制被复制到其他server中。

    2.performance_schema使用

    MySQl5.7版本是默认开启性能模式的

    SHOW VARIABLES LIKE 'performance_schema';--查看performance_schema的属性
    

    如果要关闭性能模式,不能用命令关闭,需要修改配置文件mysql.ini

    performance_schema=ON
    

    3.performance_schema表

    performance_schema会将监控到的系统性能信息存储到自己的数据表中。
    instruments: 生产者,用于采集mysql中各种各样的操作产生的事件信息,对应配置表中的配置项我们可以称为监控采集配置项。
    consumers:消费者,对应的消费者表用于存储来自instruments采集的数据,对应配置表中的配置项我们可以称为消费存储配置项。

    不同的表按照不同的维度记录各种结果

    show create table tablename--来查看创建表的时候的表结构
    show tables like '%wait%';--查看类似的表名的表
    
    

    大致分类有:

    events_statements_current:当前语句事件表
    events_statements_history:历史语句事件表
    events_statements_history_long:长语句历史事件表
    summary摘要表,还可以细分,帐号(account),主机(host),程序(program),线程(thread),用户(user)和全局(global)
    file监控文件系统
    wait等待事件记录
    transaction事务事件记录表
    memory监视内存

    4.performance_schema的简单使用

    数据信息采集和保存性能数据项目都是需要设置的,默认不会全部打开。

    --打开等待事件的采集器配置项开关,需要修改setup_instruments配置表中对应的采集器配置项
    UPDATE setup_instruments SET ENABLED = 'YES', TIMED = 'YES'where name like 'wait%';
    
    --打开等待事件的保存表配置开关,修改setup_consumers配置表中对应的配置项
    UPDATE setup_consumers SET ENABLED = 'YES'where name like '%wait%';
    
    --当配置完成之后可以查看当前server正在做什么,可以通过查询events_waits_current表来得知,该表中每个线程只包含一行数据,用于显示每个线程的最新监视事件
    select * from events_waits_currentG
    *************************** 1. row ***************************
                THREAD_ID: 11
                 EVENT_ID: 570
             END_EVENT_ID: 570
               EVENT_NAME: wait/synch/mutex/innodb/buf_dblwr_mutex
                   SOURCE: 
              TIMER_START: 4508505105239280
                TIMER_END: 4508505105270160
               TIMER_WAIT: 30880
                    SPINS: NULL
            OBJECT_SCHEMA: NULL
              OBJECT_NAME: NULL
               INDEX_NAME: NULL
              OBJECT_TYPE: NULL
    OBJECT_INSTANCE_BEGIN: 67918392
         NESTING_EVENT_ID: NULL
       NESTING_EVENT_TYPE: NULL
                OPERATION: lock
          NUMBER_OF_BYTES: NULL
                    FLAGS: NULL
    /*该信息表示线程id为11的线程正在等待buf_dblwr_mutex锁,等待事件为30880
    属性说明:
    	id:事件来自哪个线程,事件编号是多少
    	event_name:表示检测到的具体的内容
    	source:表示这个检测代码在哪个源文件中以及行号
    	timer_start:表示该事件的开始时间
    	timer_end:表示该事件的结束时间
    	timer_wait:表示该事件总的花费时间
    注意:_current表中每个线程只保留一条记录,一旦线程完成工作,该表中不会再记录该线程的事件信息
    */
    
    /*
    _history表中记录每个线程应该执行完成的事件信息,但每个线程的事件信息只会记录10条,再多就会被覆盖,*_history_long表中记录所有线程的事件信息,但总记录数量是10000,超过就会被覆盖掉
    */
    select thread_id,event_id,event_name,timer_wait from events_waits_history order by thread_id limit 21;
    
    /*
    summary表提供所有事件的汇总信息,该组中的表以不同的方式汇总事件数据(如:按用户,按主机,按线程等等)。例如:要查看哪些instruments占用最多的时间,可以通过对events_waits_summary_global_by_event_name表的COUNT_STAR或SUM_TIMER_WAIT列进行查询(这两列是对事件的记录数执行COUNT(*)、事件记录的TIMER_WAIT列执行SUM(TIMER_WAIT)统计而来)
    */
    SELECT EVENT_NAME,COUNT_STAR FROM events_waits_summary_global_by_event_name  ORDER BY COUNT_STAR DESC LIMIT 10;
    
    /*
    instance表记录了哪些类型的对象会被检测。这些对象在被server使用时,在该表中将会产生一条事件记录,例如,file_instances表列出了文件I/O操作及其关联文件名
    */
    select * from file_instances limit 20; 
    

    5.常用的配置想参数摘抄记录

    1、系统变量

    show variables like '%performance_schema%';
    --重要的属性解释
    performance_schema=ON
    /*
    控制performance_schema功能的开关,要使用MySQL的performance_schema,需要在mysqld启动时启用,以启用事件收集功能
    该参数在5.7.x之前支持performance_schema的版本中默认关闭,5.7.x版本开始默认开启
    注意:如果mysqld在初始化performance_schema时发现无法分配任何相关的内部缓冲区,则performance_schema将自动禁用,并将performance_schema设置为OFF
    */
    
    performance_schema_digests_size=10000
    /*
    控制events_statements_summary_by_digest表中的最大行数。如果产生的语句摘要信息超过此最大值,便无法继续存入该表,此时performance_schema会增加状态变量
    */
    performance_schema_events_statements_history_long_size=10000
    /*
    控制events_statements_history_long表中的最大行数,该参数控制所有会话在events_statements_history_long表中能够存放的总事件记录数,超过这个限制之后,最早的记录将被覆盖
    全局变量,只读变量,整型值,5.6.3版本引入 * 5.6.x版本中,5.6.5及其之前的版本默认为10000,5.6.6及其之后的版本默认值为-1,通常情况下,自动计算的值都是10000 * 5.7.x版本中,默认值为-1,通常情况下,自动计算的值都是10000
    */
    performance_schema_events_statements_history_size=10
    /*
    控制events_statements_history表中单个线程(会话)的最大行数,该参数控制单个会话在events_statements_history表中能够存放的事件记录数,超过这个限制之后,单个会话最早的记录将被覆盖
    全局变量,只读变量,整型值,5.6.3版本引入 * 5.6.x版本中,5.6.5及其之前的版本默认为10,5.6.6及其之后的版本默认值为-1,通常情况下,自动计算的值都是10 * 5.7.x版本中,默认值为-1,通常情况下,自动计算的值都是10
    除了statement(语句)事件之外,wait(等待)事件、state(阶段)事件、transaction(事务)事件,他们与statement事件一样都有三个参数分别进行存储限制配置,有兴趣的同学自行研究,这里不再赘述
    */
    performance_schema_max_digest_length=1024
    /*
    用于控制标准化形式的SQL语句文本在存入performance_schema时的限制长度,该变量与max_digest_length变量相关(max_digest_length变量含义请自行查阅相关资料)
    全局变量,只读变量,默认值1024字节,整型值,取值范围0~1048576
    */
    performance_schema_max_sql_text_length=1024
    /*
    控制存入events_statements_current,events_statements_history和events_statements_history_long语句事件表中的SQL_TEXT列的最大SQL长度字节数。 超出系统变量performance_schema_max_sql_text_length的部分将被丢弃,不会记录,一般情况下不需要调整该参数,除非被截断的部分与其他SQL比起来有很大差异
    全局变量,只读变量,整型值,默认值为1024字节,取值范围为0~1048576,5.7.6版本引入
    降低系统变量performance_schema_max_sql_text_length值可以减少内存使用,但如果汇总的SQL中,被截断部分有较大差异,会导致没有办法再对这些有较大差异的SQL进行区分。 增加该系统变量值会增加内存使用,但对于汇总SQL来讲可以更精准地区分不同的部分。
    */
    

    2、启动选项

    performance_schema_consumer_events_statements_current=TRUE
    是否在mysql server启动时就开启events_statements_current表的记录功能(该表记录当前的语句事件信息),启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新setup_consumers配置表中的events_statements_current配置项,默认值为TRUE
    
    performance_schema_consumer_events_statements_history=TRUE
    与performance_schema_consumer_events_statements_current选项类似,但该选项是用于配置是否记录语句事件短历史信息,默认为TRUE
    
    performance_schema_consumer_events_stages_history_long=FALSE
    与performance_schema_consumer_events_statements_current选项类似,但该选项是用于配置是否记录语句事件长历史信息,默认为FALSE
    
    除了statement(语句)事件之外,还支持:wait(等待)事件、state(阶段)事件、transaction(事务)事件,他们与statement事件一样都有三个启动项分别进行配置,但这些等待事件默认未启用,如果需要在MySQL Server启动时一同启动,则通常需要写进my.cnf配置文件中
    performance_schema_consumer_global_instrumentation=TRUE
    是否在MySQL Server启动时就开启全局表(如:mutex_instances、rwlock_instances、cond_instances、file_instances、users、hostsaccounts、socket_summary_by_event_name、file_summary_by_instance等大部分的全局对象计数统计和事件汇总统计信息表 )的记录功能,启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新全局配置项
    默认值为TRUE
    
    performance_schema_consumer_statements_digest=TRUE
    是否在MySQL Server启动时就开启events_statements_summary_by_digest 表的记录功能,启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新digest配置项
    默认值为TRUE
    
    performance_schema_consumer_thread_instrumentation=TRUE
    是否在MySQL Server启动时就开启
    
    events_xxx_summary_by_yyy_by_event_name表的记录功能,启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新线程配置项
    默认值为TRUE
    
    performance_schema_instrument[=name]
    是否在MySQL Server启动时就启用某些采集器,由于instruments配置项多达数千个,所以该配置项支持key-value模式,还支持%号进行通配等,如下:
    
    # [=name]可以指定为具体的Instruments名称(但是这样如果有多个需要指定的时候,就需要使用该选项多次),也可以使用通配符,可以指定instruments相同的前缀+通配符,也可以使用%代表所有的instruments
    
    ## 指定开启单个instruments
    
    --performance-schema-instrument= 'instrument_name=value'
    
    ## 使用通配符指定开启多个instruments
    
    --performance-schema-instrument= 'wait/synch/cond/%=COUNTED'
    
    ## 开关所有的instruments
    
    --performance-schema-instrument= '%=ON'
    
    --performance-schema-instrument= '%=OFF'
    
    注意,这些启动选项要生效的前提是,需要设置performance_schema=ON。另外,这些启动选项虽然无法使用show variables语句查看,但我们可以通过setup_instruments和setup_consumers表查询这些选项指定的值。
    

    6.重要表的说明

    /*
    performance_timers表中记录了server中有哪些可用的事件计时器
    字段解释:
    	timer_name:表示可用计时器名称,CYCLE是基于CPU周期计数器的定时器
    	timer_frequency:表示每秒钟对应的计时器单位的数量,CYCLE计时器的换算值与CPU的频率相关、
    	timer_resolution:计时器精度值,表示在每个计时器被调用时额外增加的值
    	timer_overhead:表示在使用定时器获取事件时开销的最小周期值
    */
    select * from performance_timers;
    
    /*
    setup_timers表中记录当前使用的事件计时器信息
    字段解释:
    	name:计时器类型,对应某个事件类别
    	timer_name:计时器类型名称
    */
    select * from setup_timers;
    
    /*
    setup_consumers表中列出了consumers可配置列表项
    字段解释:
    	NAME:consumers配置名称
    	ENABLED:consumers是否启用,有效值为YES或NO,此列可以使用UPDATE语句修改。
    */
    select * from setup_consumers;
    
    /*
    setup_instruments 表列出了instruments 列表配置项,即代表了哪些事件支持被收集:
    字段解释:
    	NAME:instruments名称,instruments名称可能具有多个部分并形成层次结构
    	ENABLED:instrumetns是否启用,有效值为YES或NO,此列可以使用UPDATE语句修改。如果设置为NO,则这个instruments不会被执行,不会产生任何的事件信息
    	TIMED:instruments是否收集时间信息,有效值为YES或NO,此列可以使用UPDATE语句修改,如果设置为NO,则这个instruments不会收集时间信息
    */
    SELECT * FROM setup_instruments;
    
    /*
    setup_actors表的初始内容是匹配任何用户和主机,因此对于所有前台线程,默认情况下启用监视和历史事件收集功能
    字段解释:
    	HOST:与grant语句类似的主机名,一个具体的字符串名字,或使用“%”表示“任何主机”
    	USER:一个具体的字符串名称,或使用“%”表示“任何用户”
    	ROLE:当前未使用,MySQL 8.0中才启用角色功能
    	ENABLED:是否启用与HOST,USER,ROLE匹配的前台线程的监控功能,有效值为:YES或NO
    	HISTORY:是否启用与HOST, USER,ROLE匹配的前台线程的历史事件记录功能,有效值为:YES或NO
    */
    SELECT * FROM setup_actors;
    
    /*
    setup_objects表控制performance_schema是否监视特定对象。默认情况下,此表的最大行数为100行。
    字段解释:
    	OBJECT_TYPE:instruments类型,有效值为:“EVENT”(事件调度器事件)、“FUNCTION”(存储函数)、“PROCEDURE”(存储过程)、“TABLE”(基表)、“TRIGGER”(触发器),TABLE对象类型的配置会影响表I/O事件(wait/io/table/sql/handler instrument)和表锁事件(wait/lock/table/sql/handler instrument)的收集
    	OBJECT_SCHEMA:某个监视类型对象涵盖的数据库名称,一个字符串名称,或“%”(表示“任何数据库”)
    	OBJECT_NAME:某个监视类型对象涵盖的表名,一个字符串名称,或“%”(表示“任何数据库内的对象”)
    	ENABLED:是否开启对某个类型对象的监视功能,有效值为:YES或NO。此列可以修改
    	TIMED:是否开启对某个类型对象的时间收集功能,有效值为:YES或NO,此列可以修改
    */
    SELECT * FROM setup_objects;
    
    /*
    threads表对于每个server线程生成一行包含线程相关的信息,
    字段解释:
    	THREAD_ID:线程的唯一标识符(ID)
    	NAME:与server中的线程检测代码相关联的名称(注意,这里不是instruments名称)
    	TYPE:线程类型,有效值为:FOREGROUND、BACKGROUND。分别表示前台线程和后台线程
    	PROCESSLIST_ID:对应INFORMATION_SCHEMA.PROCESSLIST表中的ID列。
    	PROCESSLIST_USER:与前台线程相关联的用户名,对于后台线程为NULL。
    	PROCESSLIST_HOST:与前台线程关联的客户端的主机名,对于后台线程为NULL。
    	PROCESSLIST_DB:线程的默认数据库,如果没有,则为NULL。
    	PROCESSLIST_COMMAND:对于前台线程,该值代表着当前客户端正在执行的command类型,如果是sleep则表示当前会话处于空闲状态
    	PROCESSLIST_TIME:当前线程已处于当前线程状态的持续时间(秒)
    	PROCESSLIST_STATE:表示线程正在做什么事情。
    	PROCESSLIST_INFO:线程正在执行的语句,如果没有执行任何语句,则为NULL。
    	PARENT_THREAD_ID:如果这个线程是一个子线程(由另一个线程生成),那么该字段显示其父线程ID
    	ROLE:暂未使用
    	INSTRUMENTED:线程执行的事件是否被检测。有效值:YES、NO 
    	HISTORY:是否记录线程的历史事件。有效值:YES、NO * 
    	THREAD_OS_ID:由操作系统层定义的线程或任务标识符(ID):
    */
    select * from threads
    

    7.performance_schema 能解决的问题

    --1、哪类的SQL执行最多?
    SELECT DIGEST_TEXT,COUNT_STAR,FIRST_SEEN,LAST_SEEN FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
    --2、哪类SQL的平均响应时间最多?
    SELECT DIGEST_TEXT,AVG_TIMER_WAIT FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
    --3、哪类SQL排序记录数最多?
    SELECT DIGEST_TEXT,SUM_SORT_ROWS FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
    --4、哪类SQL扫描记录数最多?
    SELECT DIGEST_TEXT,SUM_ROWS_EXAMINED FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
    --5、哪类SQL使用临时表最多?
    SELECT DIGEST_TEXT,SUM_CREATED_TMP_TABLES,SUM_CREATED_TMP_DISK_TABLES FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
    --6、哪类SQL返回结果集最多?
    SELECT DIGEST_TEXT,SUM_ROWS_SENT FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
    --7、哪个表物理IO最多?
    SELECT file_name,event_name,SUM_NUMBER_OF_BYTES_READ,SUM_NUMBER_OF_BYTES_WRITE FROM file_summary_by_instance ORDER BY SUM_NUMBER_OF_BYTES_READ + SUM_NUMBER_OF_BYTES_WRITE DESC
    --8、哪个表逻辑IO最多?
    SELECT object_name,COUNT_READ,COUNT_WRITE,COUNT_FETCH,SUM_TIMER_WAIT FROM table_io_waits_summary_by_table ORDER BY sum_timer_wait DESC
    --9、哪个索引访问最多?
    SELECT OBJECT_NAME,INDEX_NAME,COUNT_FETCH,COUNT_INSERT,COUNT_UPDATE,COUNT_DELETE FROM table_io_waits_summary_by_index_usage ORDER BY SUM_TIMER_WAIT DESC
    --10、哪个索引从来没有用过?
    SELECT OBJECT_SCHEMA,OBJECT_NAME,INDEX_NAME FROM table_io_waits_summary_by_index_usage WHERE INDEX_NAME IS NOT NULL AND COUNT_STAR = 0 AND OBJECT_SCHEMA <> 'mysql' ORDER BY OBJECT_SCHEMA,OBJECT_NAME;
    --11、哪个等待事件消耗时间最多?
    SELECT EVENT_NAME,COUNT_STAR,SUM_TIMER_WAIT,AVG_TIMER_WAIT FROM events_waits_summary_global_by_event_name WHERE event_name != 'idle' ORDER BY SUM_TIMER_WAIT DESC
    --12-1、剖析某条SQL的执行情况,包括statement信息,stege信息,wait信息
    SELECT EVENT_ID,sql_text FROM events_statements_history WHERE sql_text LIKE '%count(*)%';
    --12-2、查看每个阶段的时间消耗
    SELECT event_id,EVENT_NAME,SOURCE,TIMER_END - TIMER_START FROM events_stages_history_long WHERE NESTING_EVENT_ID = 1553;
    --12-3、查看每个阶段的锁等待情况
    SELECT event_id,event_name,source,timer_wait,object_name,index_name,operation,nesting_event_id FROM events_waits_history_longWHERE nesting_event_id = 1553;
    
  • 相关阅读:
    抽象类中可以存在的成员
    读暗时间后感
    使用正则表达式限制QLineEdit不能输入大于某个整数
    QSharedMemory 使用
    BUUCTF-misc九连环 详解
    BUUCTF-数据包中的线索 1
    BUUCTF-Windows系统密码
    [CISCN2019 华北赛区 Day2 Web1]Hack World 1详解
    [ZJCTF 2019]NiZhuanSiWei 1详解
    BUUCTF [BJDCTF2020]Easy MD5 详解
  • 原文地址:https://www.cnblogs.com/farmersun/p/12483618.html
Copyright © 2011-2022 走看看