zoukankan      html  css  js  c++  java
  • 数据库分库解决方案

    当业务数据量非常大,单数据库无法支撑的时候,有可能是单库已经写满了,也可能数据库读写比较频繁,已经触碰到单库的io瓶颈了,这时就需要考虑分库。

    下面聊一下该怎么分库,如何优化:

    刚开始只有数据库A, 后来又加了数据库B。

    假如数据表都是有时间戳字段,而且数据查询条件都带一个时间戳字段,这样我们可以根据数据创建的时间范围来分库,比如给数据库按年份命名db_2019, 到2020年新生成一个库db_2020, 在业务端进行数据读写操作时,先根据时间戳条件获取到年份,然后选择相应年份的数据库进行操作。

    但上面这种方式只适合这种特定的业务场景,而且这种方式,可能旧数据很少读取,新数据会比较频繁读取,会导致不同数据库负载是不均匀的。所以会不会有更好的分片方式呢? 答案是肯定的。几乎任何一张表都会有键字段,假如键值是数字类型,可以键值与数据库数量取模的方式进行分片,比如键值是100,数据库数量是2, 那么100%2得到0,就应该存储到索引为0的数据库。假如键值是字符串呢,可以通过crc32(value)算出一个数字,然后再通过数字取模的方式得到相应的数据库。

    假如在使用过程中,数据库又不够用了,需要再扩容,怎么办? 

    停服,根据新的分片逻辑进行数据迁移,起服上线新的分片逻辑。没毛病,假如业务允许停机一段时间, 这也是一种稳妥方式。假如业务不允许停机,或只允许停机很短的时间,这时该如何数据库扩容呢,或者说该如何平滑地进行数据库迁移而不影响业务呢?

    可以通过下面步骤来

    方案一:

    • 修改写数据库逻辑:对需要迁移的数据,进行双写(写原数据库和要迁往的数据库)
    • 写一个迁移脚本:从原数据库迁数据到目标数据库
    • 校验原数据库是否跟跟目标数据库数据一致(在迁移的瞬间可能发生了原数据库删除了数据,而目标数据库依然写入),删掉目标数据库多余的数据。
    • 修改数据库分片逻辑,去掉双写逻辑
    • 删掉各个数据库冗余的数据

     

    若数据库双倍分库扩容有更好方案

    方案二:

    • 原数据库和要迁往的数据库设计成双主同步
    • 修改数据库分片逻辑
    • 删掉各个数据库冗余的数据

    后面找个时间再补充一些图表,以便读者能更直观得理解。

    还有一些问题:

    问题一:假如方案一中,进行双写的时候一个写成功,一个写失败,该如何处理?

    问题二:分库后,如何分页查询数据?

    后面会再写一篇较大篇幅的文章分析如何跨数据库分页查询数据。

  • 相关阅读:
    string与wstring之间的转换
    QTableWidget去除选中虚边框
    在新机器部署Qt+mysql程序
    Qt文件路径分隔符
    MySQL通过增加用户实现远程连接数据库
    Qt 配置文件QSettings读取以及中文问题
    git config proxy
    ubuntu14.04 us sources.list
    How to keep Environment Variables when Using SUDO
    ubuntu hash sum mismatch error
  • 原文地址:https://www.cnblogs.com/kingson-blog/p/12122211.html
Copyright © 2011-2022 走看看