zoukankan      html  css  js  c++  java
  • MySQL CPU性能定位

    墨墨导读:经常会看到看到cpu 使用率非常高的情况。在这种情况下,资源的使用监控分析才是性能故障分析的根本首要任务,通过这些分析,理解服务器如何运行,资源损耗在哪些方面对问题进行故障诊断是非常有价值有意义的。

    经常会看到看到cpu 使用率非常高的情况。在这种情况下,资源的使用监控分析才是性能故障分析的根本首要任务,通过这些分析,理解服务器如何运行,资源损耗在哪些方面对问题进行故障诊断是非常有价值有意义的。MySQL那些情况,会导致cpu上升。

    CPU的5种状态

    在linux平台下cpu存在5种状态使用组合。


    • us:用户空间占用CPU百分比

    • sy:内核空间占用CPU百分比

    • ni:用户进程空间内改变过优先级的进程占用CPU百分比

    • id:空闲CPU百分比

    • wa: 等待输入输出的CPU时间百分比

    • hi: 硬件中断

    • si: 软件中断

    • st: 实时

    备注:从上述情况介绍来看,sy系统和ni&si软硬中断,基本系统自动控制,干涉部分不是太多.us,id,wa有一定的优化空间,有效的使用资源。

    通过上述介绍,已经了解了cpu的基础,下面看看MySQL方面cpu的表现。

    MySQL常见CPU案例

    以往的MySQL案例中,因为使用上的一些问题,经常会导致高CPU使用率上升情况:这里包括连接数增加、执行差效率的查询SQL、哈希连接或多表合并连接、写和读IO慢、参数设置不合理等。

    1. SQL语句
    那些常见的SQL语句会导致cpu上升 先从最直观的SHOW PROCESSLIST,查询时间长、运行状态(State列)
    “Sending data”、
    “Copying to tmp table”、
    “Copying to tmp table on disk”、
    “Sorting result”、
    “Using filesort”等都可能是有性能问题的查询(SQL)。

    “Sending data”官网解释:

    The thread is reading and processing rows for a SELECT statement, and sending data to the client. Because operations occurring during this state tend to perform large amounts of disk access (reads), it is often the longest-running state over the lifetime of a given query.
    

    状态的含义,原来这个状态的名称很具有误导性,所谓的“Sending data”并不是单纯的发送数据,而是包括“收集 + 发送 数据”。

    体现在:
    1. 没有使用索引
    2. mysql索引表结构,要是没有使用主键查询的话,需要进行回表操作,在返回客户端。
    3. 返回的行数太多,需要频繁io交互

    Copying to tmp table,Copying to tmp table on disk:官网解释:

    Copying to tmp table
    The server is copying to a temporary table in memory.
    Copying to tmp table on disk
    The server is copying to a temporary table on disk. The temporary result set has become too large
    

    整体来说生成临时表内存空间,落磁盘临时表,临时表使用太
    体现在 多表join,buffer_size设置不合理,alter algrithem copy等方式

    Sorting result:

    For a SELECT statement, this is similar to Creating sort index, but for nontemporary tables.
    

    结果集使用大的排序,基本上SQL语句上order by 字段上没有索引

    上述的情况大量堆积,就会发现CPU飙升的情况,当然也有并发量太高的情况。

    优化方向:
    1.添加索引,组合索引,坚持2张表以内的join方式 这样查询执行成本就会大幅减少。
    2.隐私转换避免,系统时间函数的调用避免
    3.相关缓存大小设置:join_buffer_size,sort_buffer_size,read_buffer_size ,read_rnd_buffer_size ,tmp_table_size。

    在紧急情况下,无法改动下,通过参数控制并发度,执行时间 innodb_thread_concurrency ,max_execution_time都是有效的临时控制手段。

    2. SQL语句
    CPU对于IO方面的处理方式如下:等待的IO队列信息,会放置CPU里进行spin操作。

    MySQL事务关联操作方面有redo, undo, binlog日志。但实际InnoDB实现方式是同步IO和异步IO两种文件读写方式

    1.对于读操作,通常用户线程触发的数据请求都是同步读,其他后台线程触发的是异步读。
    同步读写操作通常由用户线程来完成,当用户线程执行一句SQL时,如果请求的数据页不在buffer pool中,就需要将文件中的数据页加载到buffer pool中,如果IO有瓶颈,响应延迟,那么该线程就会被阻塞。

    2.对于写操作,InnoDB是WAL(Write-Ahead Logging)模式,先写日志,延迟写数据页然后在写入磁盘,这样保证数据的安全性 数据不丢失;
    异步写,主要在下面场景下触发

    • binlog,undo,redo log 空间不足时 ;

    • 当参数innodb_flush_log_at_trx_commit,sync_binlog设置为1时,每次事务提交都会做一次fsync,相当于是同步写;

    • master线程每秒做一次redo fsync;

    • Checkpoint

    • undo,binlog切换时

    • Page cleaner线程负责脏页的刷新操作,其中double write buffer的写磁盘是同步写, 数据文件的写入是异步写。

    大量的io堆积,等待的状态下,都会导致CPU使用率上升。
    log方面多注意以下方面配置:
    1.相关mysql参数 innodb_flush_log_at_trx_commit ,sync_binlog,innodb_io_capacity ,sync_relay_log的参数合理设置。
    2.独立表空间 (innodb_file_per_table),日志文件伸缩大小,临时表使用,
    3.尽量使用IOPS高的硬件设备

    SQL语句定位cpu核

    通过sys库定位当前执行pid, 先对应3247

    mysql> select thd_id,conn_id,user,pid,program_name,command,current_statement  from sys.processlist where conn_id>0 and pid>0;
    +--------+---------+----------------+------+--------------+---------+-------------------------------------------------------------------+
    | thd_id | conn_id | user           | pid  | program_name | command | current_statement                                                 |
    +--------+---------+----------------+------+--------------+---------+-------------------------------------------------------------------+
    |     33 |       3 | root@localhost | 3247 | mysql        | Query   | select thd_id,conn_id,user,pid ... list where conn_id>0 and pid>0 |
    +--------+---------+----------------+------+--------------+---------+-------------------------------------------------------------------+
    
    • ps方式

    通过ps工具查看对应的cpu是在哪个核上执行

    [root@ss30 ~]# ps -o pid,psr,comm -p 3247
       PID PSR COMMAND
      3247   3 mysql
    

    输出表示进程的 PID 为 3247(名为”mysql”)目前在编号为 3的CPU 上运行着。如果该过程没有被固定,PSR 列会根据内核可能调度该进程到不同CPU而改变显示。

    • top方式
      通过top方式查看对应的cpu是在哪个核上执行,
      按下 “F”键->使用上下键选择P = Last Used Cpu,并按下空格键,出现 “*”即可->ESC 退出,这时候top界面上的P列就是对应的CPU信息.

    [root@ss30 ~]# top -p 3247
    


    总结

    以往的CPU案例中,优化的方向:

    • 对于MySQL硬件环境资源,建议CPU起步8核开始,SSD硬盘;

    • 索引 ,合理设计表结构,优化SQL。

    • 读写分离,将对数据一致性不敏感的查询转移到只读实例上,分担主库压力。

    • 对于由应用负载高导致的 CPU 使用率高的状况,从应用架构、实例规格等方面来解决。

    • 使用 Memcache 或者 Redis缓存技术,尽量从缓存中获取常用的查询结果,减轻数据库的压力。

    MySQL性能测试CPU优化方向:

    • 系统参数:磁盘调度算,SHELL资源限制,numa架构,文件系统ext4,exfs

    • 刷新mysql log相关刷新参数:
      临近页(innodb_flush_neighbors)
      死锁检查机制(innodb_deadlock_detect),
      双1刷新:sync_binlog,innodb_flush_log_at_trx_commit

    • 并发参数: innodb_buffer_pool_instances, innodb_thread_concurrency 等

    • 因为一些服务器的特性,导致cpu通道 和 内存协调存在一些问题,导致cpu性能上去得案例也存在

    墨天轮原文链接:https://www.modb.pro/db/26704(复制到浏览器中打开或者点击“阅读原文”)

    推荐阅读:144页!分享珍藏已久的数据库技术年刊

    数据和云

    ID:OraNews

    如有收获,请划至底部,点击“在看”,谢谢!

    点击下图查看更多 ↓

    云和恩墨大讲堂 | 一个分享交流的地方

    长按,识别二维码,加入万人交流社群

    请备注:云和恩墨大讲堂

      点个“在看”

    你的喜欢会被看到❤

  • 相关阅读:
    javaWeb之eclipse创建Servlet模板快捷键设置
    DBUtils-对JDBC简单封装的开源工具类库
    JDBC连接池(三)DBCP连接池
    JDBC连接池-C3P0连接
    JavaWeb中jsp九大内置对象 和四大作用域
    JDBC连接池-自定义连接池
    JavaWeb中jdbcproperties配置文件
    python学习之字典(Dictionary)练习
    用$.getJSON() 和$.post()获取第三方数据做页面 ——惠品折页面(1)
    请求转发与请求重定向的区别
  • 原文地址:https://www.cnblogs.com/hzcya1995/p/13311621.html
Copyright © 2011-2022 走看看