zoukankan      html  css  js  c++  java
  • 数据库优化 | 亿级数据量系统数据库性能优化方案

    一、数据库性能瓶颈主要原因

    1、数据库连接

    MySQL数据库默认连接为100,我们可以通过配置initialSize、minIdle、maxActive等进行调优,但由于硬件资源的限制,数据库连接不可能无限制的增加,对大型单体应用单实例数据库可能会出现最大连接数不能满足实际需求的情况,这时就会系统业务阻塞。

    2、表数据量大(空间存储问题)

    普遍观点认为单表数据量超过1000万条时就是出现数据库读取性能瓶颈。从索引角度分析,如果索引未被命中,数据库系统就会全表扫描,数据量越大,扫描全表的时间就会越长;即使索引被命中了,由于B+TREE索引是存放在硬盘上的,数据量越大B+TREE层次越深,IO次数也就越多。

    3、硬件资源限制

    硬件资源直接影响QPS每秒查询数/TPS每秒事务数。

    二、数据性能优化方案

    常见的数据性能优化方案:SQL优化、缓存、创建索引、读写分离、分库分表等。

    解决大数据量性能优化,真正有效方案是采用分布式数据存储,即上面所述读写分离和分库分表。

    1、读写分离

    读写分离基于主从复制,采用区别读、写多数据源方式进行数据的存储和加载。数据的存储(增删改)指定写数据源,数据的读取查询指定读数据源。

    亿级数据量系统数据库性能优化方案

    通过读写分离复制与master相同的数据源(一主多从),多数据源可以部署到不同主机上,从而可以解决数据里连接瓶颈和硬件资源限制问题。

    2、分库分表

    对数据的库表进行拆分,用分片的方式对数据进行管理。

    亿级数据量系统数据库性能优化方案

    数据库垂直拆分将单一库拆分多个领域数据库,使各领域数据库移植性更好,功能划分更清晰。同时也能解决数据库连接、硬件资源限制问题。任何一种方案在解决问题的同时,也会带来新的问题,分库分表也不例外,比如关联查询变得复杂、分布式事务问题等。

    亿级数据量系统数据库性能优化方案

    水平拆分是将大表按照一定规则拆分成若干个小表,比如将3000万数据量的一张单表user拆分为3个小表user01、user02、user03。主要解决了单表数据量大问题,从而也就解决了存储空间带来的数据库性能瓶颈。

    下一篇文章将重点讲解MyCat及其在分库分表方面的应用,更详细介绍分库分表实现方案。

  • 相关阅读:
    预排序遍历树算法牺牲写性能的改进
    改造PAXOS算法消灭活锁
    扣减库存策略采用订单是否锁定库存方案
    [转]java-小技巧-001-Long序列化到前端不支持
    springboot-mybatis 批量insert
    VS2010 调试启动特别慢
    C# Winform App 获取当前路径
    DevExpress PivotGridControl控件
    (JavaScript)《JS面向对象编程指南》-- JavaScript基本数据类型、数组、循环
    (HTML5)HTML5 Web Notification桌面通知实践
  • 原文地址:https://www.cnblogs.com/wyf0518/p/11456817.html
Copyright © 2011-2022 走看看