zoukankan      html  css  js  c++  java
  • mysql简单优化的一些总结

    mysql对cpu的利用特点:

    5.1之前,多核支持较弱;5.1可利用4个核;5.5可利用24核;5.6可利用64个核;每个连接对应一个线程,每个并发query只能使用一个核


    mysql对内存的利用特点:

    有全局内存和会话内存,建议将会话内存设置较小;

    内存管理简单、有效(如在高并发环境下,可以增加物理内存以减少物理IO,提高并发性能);

    query cache建议关闭或设置很小(query cache 有一个全局的锁,有任何的DML,都会导致query cache再更新一下);

    执行计划没有缓存;

    建议按照热点数据的总量的15%-20%来规划,专用单实例可以分配为物理内存的50%-70%;

    类似KV简单数据,建议采用redis等NOsql来缓存


    mysql对磁盘IO的利用特点:

    binlog,redo log,undo log主要是顺序IO

    datafile主要是随机IO

    OLTP以随机IO为主;OLAP以顺序IO为主

    myisam是堆组织表(HOT),innodb是索引组织表(IOT)

    innodb相比myisam更消耗磁盘空间(1.5倍到2倍)

    innodb基于主键的读写相较于myisam更快(原因:myisam有大量碎片;myisam把索引文件和数据文件分开,需要先检索索引文件后再检索数据文件)


    确认瓶颈:

    cpu利用较高,通常为索引使用不当

    内存发生swap,通常为内存分配不当(分配过多或过少)

    IOwait太高,通常为内存不足,IO设备性能太差,索引使用不当,正在频繁的读取大量数据(select *),正进行频繁的排序(group by)

    方法:

    (操作系统级别)

    top(整个系统当前的状态以及某个进程或某个服务消耗最多的cpu或内存)

    sar(-u 看cpu;-b 看io;-r 看内存)

    vmstat(类似sar 看cpu,io,内存)

    iotop(看那个进程的IO消耗最高)

    dstat(结果集类似vmstat,sar)

    (数据库级别)

    slow log(慢查询,定位耗时较长的SQL),优先处理发生频率较高的慢查询,在处理耗时最长的;

    show global status(1.连接数(活跃,不活跃的),设置interactive_timeout,wait_timeout值,可以减少不活跃的连接;2.TPS,QPS,DML_Active;3.各种buffer,cache的利用率、命中率);

    TPS=(handler_commit_d+handler_rollback_d)/uptime_d

    QPS=(questions_d2-questions_d1)/uptime_d

    DML_Active=[conn_select_d+conn_insert_d+conn_update_d+conn_delete_d]/uptime_d

    show processlist

    show engine innodb status(锁,事务,等待)

    innodb_buffer_pool_wait_free若大于1,则buffer pool不够用

    innodb_row_lock_current_waits:当前的行锁数量

    innodb_row_lock_time_avg:行锁的平均耗时

    innodb_row_lock_waits:等待行锁的次数

    slow_queries:慢查的次数

    table_locks_immediate:立即锁的次数,table_locks_waited:立即等待的次数

    TPS变得很低(100)原因:数据库负载很高;前端出现情况,业务进不来

    pt-ioprofile:可以直接查看innodb内部那些文件被频繁的读写,

    制定方案:

    并发太高(thread pool);频繁读取或频繁排序(索引);swap(调整内存);


    硬件优化:

    BIOS设置优化:1.system profile(系统配置)选择performance per wait optimized(DAPC),发挥最大功耗性能

    2.memory frequency(内存频率)选择maximum preformance(最佳性能)

    3.关闭C1E(允许处理器处于闲置状态时启用或禁用处理器切换至最低性能状态,默认启用)

    4.关闭C states(允许启用或禁用处理器所有可用电源状态下运行,默认启用)


    IO子系统优化:

    1.阵列卡配置cache(缓存)及BBU(为缓存提供后备电量)模块,提高IOPS

    2.设置写策略为WB(write back,即把数据先写在cache卡,然后在刷回到磁盘里面),或FORCE WB,禁用WT策略

    3.关闭预读,将其cache用作写缓存

    4.阵列级别使用RAID1+0(写IO更高)而不是raid 5(读IO更高)

    5.关闭物理磁盘cache策略,防止丢数据

    6.使用高转速硬盘,不使用低速盘

    7.使用SSD或者PCIe-SSD盘


    操作系统的优化

    1.vm.swappiness RHEL 7 之前设置为0(可能导致进程OOM-killer),RHEL 7以上,可以设置为10,减少发生swap

    2.调整io scheduler(/sys/block/sdX/queue/scheduler),SAS建议设置为deadline;SSD建议设置为noop或deadline

    3.文件系统的选择,建议使用XFS其次是ext4

    XFS目录内容是B+树,文件分配是B+树

    ext4目录内容是Htree(一种特殊的hash B树),文件分配Extents/bitmap

    ext3目录内容是Htree(一种特殊的hash B树),文件分配bitmap


    mysql层面的优化

    全局参数:1.interactive_timeout(一个活跃的连接等待超时的时间),wait_timeout(断开一个不活跃连接的超时时间),建议将两个值设置一样;如果有连接池,可以把timeout调大一些或用默认值,如果没有连接池,建议把timeout值调到300以内

    2.open_files_limit(设置不够会导致报错can't open file:xxx;os error:too many open files),可以通过ulimit -n修改内核级别的限制

    其他类似问题:mysql error message:can not connect to mysql server;SQL:can't create a new thread

    解决方法:vi /etc/security/limits.d/90-nproc.conf 修改为 - nproc 65536

    或者 vi /etc/bashrc 添加ulimit -u 65536

    3.max_connections ,连接数过高时,应该调低timeout值;thread pool线程池功能,官方版本不支持,可使用percona、mariadb分支版本

    长连接:指在一个连接上可以连续发送多个数据包,在连接保持期间,如果没有数据包发送,需要双方发链路检测包。mysql的长连接如果长期闲置,mysql会8小时后(默认时间)主动断开该连接。

    短连接:是指通讯双方有数据交互时,就建立一个连接,数据发送完成后,则断开此连接,即每次连接只完成一项业务的发送。


    mysql内存相关的优化

    mysql使用总内存=global_buffers+thread+buffers

    全局参数:innodb_buffer_pool_size,innodb_additional_mem_pool_size,innodb_log_buffer_size,key_buffer_size,query_cache_size,table_open_cache,table_definition_cache,thread_cache_size

    会话/线程内存:

    (read_buffer_size,read_rnd_buffer_size,sort_buffer_size,join_buffer_size建议为2M),binlog_cache_size,tmp_table_size,max-heap-table-size,thread_stack,net_buffer_length,bulk_insert_buffer_size

    尤其注意:不要把tmp_table_size,max-heap-table-size设置过大,建议不高于100M


    innodb相关配置优化

    innodb_buffer_pool_size:缓存大量的脏数据,缓存事务的信息,缓存锁的信息,建议设置为50%-80%(太小会导致1.tps很低,大量等待;2.可能会table full;3.锁不够用,大量的所等待)

    innodb_data_file_path:建议设置innodb共享表空间文件ibdata1初始化的大小至少为1G(避免在高并发的情景下导致ibdata1急剧增加,大大影响性能)

    ibdata1包含的部分信息(data dictionary,double write buffer,insert buffer,rollback segments ,undo space)

    innodb_flush_log_at_trx_commit:0每秒把log刷新一次到磁盘;1每个事务刷新一次;2.介于0-1之间

    innodb_log_buffer_size(建议设置为16M)&innodb_log_file_size:不应设置太大(不应超过512M),以免在mysql重新启动时读取redo log恢复过程太慢

    transaction_isolation:事务隔离级别(默认为RR),


    其他配置参数优化

    general log:一般不用打开

    log_bin:建议一定要打开,将binlog和数据隔离或使用IO能力强的设备,可以提高响应;密集写很高的应用可以启用SSD

    sync_binlog:需要高的事务的一致性需要设置为1,即每个SQL语句需要刷一次binlog;不要求数据一致性可以设置为0

    raid0时binlog丢失怎么办:需要重新生成binlog,若slave也打开了binlog,可以复制从的

    long_query_time

    log_slow_query


    设计优化

    建议使用innodb存储引擎(优点:支持并发;可以保证数据的一致性;支持crash recovery(故障自动修复);有更高存取效率(行锁降低锁粒度,更高内存利用率、索引存取效率))


    schema设计优化

    不管存储引擎是否为innodb,都应该设计自增列主键

    日期、时间、ipv4使用int unsigned类型存储

    性别、是否等枚举类型,使用ENUM/TINYINT,而不是char/varchar

    杜绝TEXT/BLOB,可以做垂直拆分,或者转成myisam表

    所有字段显示定义not null


    索引设计优化

    基数很低的字段不创建索引(mysql还不支持bitmap索引)

    采用第三方系统实现text/blob全文检索

    常用排序(order by)、分组(group by )、取唯一(distinct) 字段上创建索引

    索引数量不要太多

    多使用联合索引,少用单独索引

    字符类型需要索引时,创建前缀索引


    无法使用索引的场景

    通过索引扫描的记录超过30%,变成全表扫描

    联合索引中,第一个索引列使用范围查询(<,>,<=,>=,between)

    如:select ... where key_part1>? and key_part2=?

    联合索引中,第一个查询条件不是最左索引列

    如:select ... where key_part2>? and key_part3=?

    模糊查询条件列最左以通配符%开始

    如:select ... where key_part1 like '%xx' and key_part2=?

    内存表(heap 表)使用hash索引(只能用于=或!=才使用hash索引)时,使用范围检索或order by,group by或模糊匹配

    两个独立索引,其中一个用于检索,一个用于排序(只能用到一个索引)

    如:select ... where key1= order by key2=;---执行计划中,会有using filesort

    表关联字段类型不一样(也包括长度不一样) :会导致隐式类型转换

    索引字段条件上使用函数 如:where func(key1)=?;where key+?=?

    注意:where key=?+?? ---可以使用索引;where key+?=??---不可以使用索引


    常见杀手级SQL

    select *

    order by rand()

    limit huge_num,offset

    select count(*) on innodb table(在innodb频繁count(*))


    架构设计优化

    减少物理IO(方法:前端加cache)

    转变随机IO为顺序IO(方法:本地写队列,最后合并写)

    减小活跃数据(方法:冷热数据分离)

    分库分表(方法:垂直、水平拆分,分布式集群)

    读写分离

    OLTP、OLAP分离


    优化工具

    pt-ioprofile(可以查看innodb里面那个数据库文件被频繁的读写)

    mysqldumpslow(可以分析slow log)

    pt-query-digest+box anemometer/query-digest-ui


    ---------------------
    作者:jh993627471
    来源:CSDN
    原文:https://blog.csdn.net/jh993627471/article/details/79278041
    版权声明:本文为博主原创文章,转载请附上博文链接!

  • 相关阅读:
    记一次网络实践
    python中得公有和私有——私有函数和公开函数_补充完整
    机器学习 之LightGBM算法
    机器学习 之XGBoost算法
    机器学习 之梯度提升树GBDT
    机器学习 之KNN近邻法
    机器学习之 XGBoost和LightGBM
    《剑指offer》 之二叉树
    随机森林RF、XGBoost、GBDT和LightGBM的原理和区别
    机器学习之决策树_CART算法
  • 原文地址:https://www.cnblogs.com/zping/p/10904112.html
Copyright © 2011-2022 走看看