zoukankan      html  css  js  c++  java
  • MySQL优化---DBA对MySQL优化的一些总结

    MySQL优化---DBA对MySQL优化的一些总结

    http://blog.163.com/li_hx/blog/static/183991413201572522214601/

    1. 要确保有足够的内存
    数据库能够高效的运行,最关建的因素需要内存足更大了,能缓存住数据,更新也可以在内存先完成。但不同的业务对内存需要强度不一样,一推荐内存要占到数据的15-25%的比例,特别的热的数据,内存基本要达到数据库的80%大小。

    2. 需要更多更快的CPU
    MySQL 5.6可以利用到64个核,而MySQL每个query只能运行在一个CPU上,所以要求更多的CPU,更快的CPU会更有利于并发。

    3. 要选择合适的操作系统
    在官方建议估计最推荐的是Solaris, 从实际生产中看CentOS, REHL都是不错的选择,推荐使用CentOS, REHL 版本为6以后的,当然Oracle Linux也是一个不错的选择。虽然从MySQL 5.5后对Windows做了优化,但也不推荐在高并发环境中使用windows.

    4. 合理的优化系统的参数
    更改文件句柄 ulimit –n 默认1024 太小
    进程数限制 ulimit –u 不同版本不一样
    禁掉NUMA numactl --interleave=all  mysqld &  启动mysql时候关闭numa特性

    5. 选择合适的内存分配算法
    默认的内存分配就是c的malloc 现在也出现许多优化的内存分配算法:
    jemalloc and tcmalloc
    从MySQL 5.5后支持声明内存分配方法。
    [mysqld_safe]
    malloc-lib = tcmalloc

    优化内存碎片率是世界性难题,tcmalloc/jemalloc 都不能做到完美,可能要优化确实很困难)。
    https://mongoing.com/archives/34751



    或是直接指到so文件
    [mysqld_safe]
    malloc-lib=/usr/local/lib/libtcmalloc_minimal.so

    6. 使用更快的存储设备ssd或是固态卡
    存储介质十分影响MySQL的随机读取,写入更新速度。新一代存储设备固态ssd及固态卡的出现也让MySQL 大放异彩,也是淘宝在去IOE中干出了一个漂亮仗。

    7. 选择良好的文件系统
    推荐XFS, Ext4,如果还在使用ext2,ext3的同学请尽快升级。 推荐XFS,这个也是今后一段时间Linux会支持一个文件系统。
    文件系统强烈推荐: XFS

    8. 优化挂载文件系统的参数
    挂载XFS参数:
    (rw, noatime,nodiratime,nobarrier)
    挂载ext4参数:
    ext4 (rw,noatime,nodiratime,nobarrier,data=ordered)
    如果使用SSD或是固态盘需要考虑:
    ? innodb_page_size = 4K
    ? Innodb_flush_neighbors = 0

    9. 选择适合的IO调度
    正常请下请使用deadline 或者noop
    echo dealine >/sys/block/{DEV-NAME}/queue/scheduler

    10. 选择合适的Raid卡Cache策略
    请使用带电的Raid,启用WriteBack, 对于加速redo log ,binary log, data file都有好处。

    11. 禁用Query Cache
    QueryCache在Innodb中有点鸡肋,Innodb的数据本身可以在Innodb buffer pool中缓存,Query Cache属于结果集缓存,如果开启Query Cache更新写入都要去检查query cache反而增加了写入的开销。
    在MySQL5.6中Querycache是被禁掉了。

    12. 使用Thread Pool
    现在一个数据对应5个以上App场景比较,但MySQL有个特性随着连接增多的情况下性能反而下降,所以对于连接超过200的以后场景请考虑使用thread pool. 这是一个伟大的发明。

    13. 合理调整内存
    13.1 减少连接的内存分配
    连接可以用thread_cache_size缓存,观查属于比较属不如thread pool给力。数据库在连上分配的内存如下:
    max_used_connections * (
    read_buffer_size +
    read_rnd_buffer_size +
    join_buffer_size +
    sort_buffer_size +
    binlog_cache_size +
    thread_stack +
    2 * net_buffer_length …
    )
    13.2 使较大的buffer pool
    要把60-80%的内存分给innodb_buffer_pool_size. 这个不要超过数据大小了,另外也不要分配超过80%不然会利用到swap.


    14. 合理选择LOG刷新机制
    Redo Logs:
    – innodb_flush_log_at_trx_commit = 1 // 最安全 最差性能  每次提交事务都fsync到磁盘
    – innodb_flush_log_at_trx_commit = 2 //  较好性能  每次提交事务都写入到文件系统缓存,但不fsync到磁盘
    – innodb_flush_log_at_trx_commit = 0 //  最好的性能  master 线程每隔1秒进行一次redo log的fsync动作
    binlog :
    binlog_sync = 1 需要group commit支持,如果没这个功能可以考虑binlog_sync=0来获得较佳性能。
    数据文件:
    innodb_flush_method = O_DIRECT  (O_DIRECT  不经过/写入文件系统缓存,直接写入磁盘)

    15. 请使用Innodb表
    可以利用更多资源,在线alter操作有所提高。 目前也支持非中文的full text, 同时支持Memcache API访问。目前也是MySQL最优秀的一个引擎。
    如果你还在MyISAM请考虑快速转换。

    16. 设置较大的Redo log
    以前Percona 5.5和官方MySQL 5.5比拼性能时,胜出的一个Tips就是分配了超过4G的Redo log ,而官方MySQL5.5 redo log不能超过4G. 从 MySQL 5.6后可以超过4G了,通常建Redo log加起来要超过500M。 可以通过观查redo log产生量,分配Redo log大于一小时的量即可。

    17. 优化磁盘的IO
    innodb_io_capactiy 在sas 15000转的下配置800就可以了,在ssd下面配置2000以上。
    在MySQL 5.6:
    innodb_lru_scan_depth = innodb_io_capacity / innodb_buffer_pool_instances
    innodb_io_capacity_max = min(2000, 2 * innodb_io_capacity)

    18. 使用独立表空间
    目前来看新的特性都是独立表空间支持:
    truncate table 表空间回收
    表空间传输


    19. 配置合理的并发
    innodb_thread_concurrency =并发这个参数在Innodb中变化也是最频繁的一个参数。不同的版本,有可能不同的小版本也有变动。一般推荐:
    在使用thread pool 的情况下:
    innodb_thread_concurrency = 0 就可以了。
    如果在没有thread pool的情况下:
    5.5 推荐:innodb_thread_concurrency =16 – 32
    5.6 推荐innodb_thread_concurrency = 36

    20. 优化事务隔离级别
    默认是 Repeatable read
    推荐使用Read committed binlog格式使用Row
    较低的隔离级别 = 较好的性能

    21. 注重监控
    任环境离不开监控,如果少了监控,有可能就会陷入盲人摸象。 推荐zabbix+mpm构建监控。


    内存分配器:glibc,tcmalloc,jemalloc

    redis开发与运维 P203

    内存分配器为了更好地管理和重复利用内存,分配内存策略一般采用固定范围的内存块进行分配,例如jemalloc在64位系统中

    将内存空间划分为:小,大,巨大三个范围,每个范围内又划分为多个小的内存块单位,如下所示

    小:8byte,16byte,32byte,48byte。。。128byte,192byte,256byte,512byte,768byte,1024byte,3840byte

    大:4kb,8kb,12kb,4072kb

    巨大:4mb,8mb,12mb

    比如当保存5kb对象时jemalloc可能会采用8kb的块存储,而剩下的3kb空间变为内存碎片不能再分配给其他对象存储。

    内存碎片问题虽然是所有内存服务的通病,但是jemalloc针对碎片问题专门做了优化,一般不会存在过度碎片的问题,正常的碎片率

    在1.03左右mem_fragmentation_ratio,但是当存储的数据长短差异较大时,以下场景容易出现高内存碎片问题:

    1、频繁做更新操作,例如频繁对已存在的键执行append,setrange等更新操作

    2、大量过期键删除,键对象过期删除后,释放的空间无法得到充分利用,导致碎片率上升

    碎片问题常见解决方法:

    1、数据对齐:在条件允许情况下尽量做数据对齐,比如数据尽量用数字类型或固定长度字符串等

    2、安全重启:重启redis可以做到内存碎片重新整理,可以利用高可用架构,sentinel或cluster,切换主从,安全重启

  • 相关阅读:
    总有一天你会爱上我
    你已把我的心带走
    创业提示】创业不能以赚多少钱为目标!
    创业测试:看看你身上成功的潜质
    迁芸(名字作诗)
    请你陪我一程
    智力型企业领导艺术
    方学萍(帮别人名字作诗)
    创业者身上一定要存在的几点修为
    以小博大:小本成功创业经验谈
  • 原文地址:https://www.cnblogs.com/MYSQLZOUQI/p/4758889.html
Copyright © 2011-2022 走看看