zoukankan      html  css  js  c++  java
  • 五、水平拆分 — 分表

      相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中 包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中的某些行切分 到一个数据库,而另外的某些行又切分到其他的数据库中,如图:

    5.1、实现分表

    1、选择要拆分的表

    MySQL 单表存储数据条数是有瓶颈的,单表达到1000万条数据就达到了瓶颈,会影响查询效率,需要进行水平拆分(分表)进行优化。

    例如:例子中的 orders、orders_detail 都已经达到 600 万行数据,需要进行分表优化。

    2、分表字段

    以 orders 表为例,可以根据不同自字段进行分表

    编号分表字段效果
    1 id(主键、或创建时间) 查询订单注重时效,历史订单被查询的次数少,如此分片会造成一个节点访问多,一个访问少,不平均。
    2 customer_id(客户 id) 根据客户 id 去分,两个节点访问平均,一个客户的所有订单都在同一个节点

    3、修改配置件文件 schema.xml

    #为 orders 表设置数据节点为 dn1、dn2,并指定分片规则为 mod_rule(自定义的名字)
    <table name="orders" dataNode="dn1,dn2" rule="mod_rule" ></table>

      如下图

    4、修改配置文件 rule.xml

    #在 rule 配置文件里新增分片规则 mod_rule,并指定规则适用字段为 customer_id,
    #还有选择分片算法 mod-long(对字段求模运算),customer_id 对两个节点求模,根据结果分片
    #配置算法 mod-long 参数 count 为 2,两个节点
    <tableRule name="mod_rule">
    <rule>
    <columns>customer_id</columns>
    <algorithm>mod-long</algorithm>
    </rule>
    </tableRule>
    …
    <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
    <!-- how many data nodes -->
    <property name="count">2</property>
    </function>

      如下图

    5、在数据节点 dn2 上 上建 建 orders 表
    6、重启 Mycat,让配置生效
    7、访问 Mycat 实现分片

    #在 mycat 里向 orders 表插入数据,INSERT 字段不能省略
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES (1,101,100,100100);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(2,101,100,100300);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(3,101,101,120000);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(4,101,101,103000);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(5,102,101,100400);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(6,102,100,100020);

      在mycat、dn1、dn2中查看orders表数据,分表成功

    5.2、Mycat的分片“join ”

      Orders 订单表已经进行分表操作了,和它关联的 orders_detail 订单详情表如何进行 join 查询。

      我们要对 orders_detail 也要进行分片操作。Join 的原理如下图:

    1、ER表

      Mycat 借鉴了 NewSQL 领域的新秀 Foundation DB 的设计思路,Foundation DB 创新性的提出了 Table Group 的概念,其将子表的存储位置依赖于主表,并且物理上紧邻存放,因此彻底解决了JION 的效率和性能问 题,根据这一思路,提出了基于 E-R 关系的数据分片策略,子表的记录与所关联的父表记录存放在同一个数据分片上。

    #修改 schema.xml 配置文件
    …
    <table name="orders" dataNode="dn1,dn2" rule="mod_rule" >
            <childTable name="orders_detail" primaryKey="id" joinKey="order_id" parentKey="id" />
    </table>

    #在 dn2 创建 orders_detail 表
    #重启 Mycat
    #访问 Mycat 向 orders_detail 表插入数据
    INSERT INTO orders_detail(id,detail,order_id) values(1,'detail1',1);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(2,'detail1',2);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(3,'detail1',3);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(4,'detail1',4);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(5,'detail1',5);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(6,'detail1',6);
    #在mycat、dn1、dn2中运行两个表join语句
    Select o.*,od.detail from orders o inner join orders_detail od on o.id=od.order_id;

    2、全局表

      在分片的情况下,当业务表因为规模而进行分片以后,业务表与这些附属的字典表之间的关联,就成了比较 棘手的问题,考虑到字典表具有以下几个特性:
        ① 变动不频繁
        ② 数据量总体变化不大

        ③ 数据规模不大,很少有超过数十万条记录

      鉴于此,Mycat 定义了一种特殊的表,称之为“全局表”,全局表具有以下特性:

        ① 全局表的插入、更新操作会实时在所有节点上执行,保持各个分片的数据一致性

         ② 全局表的查询操作,只从一个节点获取

         ③ 全局表可以跟任何一个表进行 JOIN 操作

      将字典表或者符合字典表特性的一些表定义为全局表,则从另外一个方面,很好的解决了数据JOIN 的难题。通过全局表+基于 E-R 关系的分片策略,Mycat 可以满足 80%以上的企业应用开发

    #修改 schema.xml 配置文件
    …
    <table name="orders" dataNode="dn1,dn2" rule="mod_rule" >
            <childTable name="orders_detail" primaryKey="id" joinKey="order_id" parentKey="id" />
    </table>
    <table name="dict_order_type" dataNode="dn1,dn2" type="global" ></table>

    #在 dn2 创建 dict_order_type 表
    #重启 Mycat
    #访问 Mycat 向 dict_order_type 表插入数据
    INSERT INTO dict_order_type(id,order_type) VALUES(101,'type1');
    INSERT INTO dict_order_type(id,order_type) VALUES(102,'type2');
    #在Mycat、dn1、dn2中查询表数据

    5.3  常用分片规则

    1、取模

      此规则为对分片字段求摸运算。也是水平分表最常用规则。5.1 配置分表中,orders 表采用了此规则。

    2、分片枚举

       通过在配置文件中配置可能的枚举id,自己配置分片,本规则适用于特定的场景,比如有些业务需要按照省份或区县来做保存,而全国省份区县固定的,这类业务使用本条规则。

    (1)修改schema.xml配置文件

    <table name="orders_ware_info" dataNode="dn1,dn2" rule="sharding_by_intfile" ></table>

    (2)修改rule.xml配置文件

    <tableRule name="sharding_by_intfile">
            <rule>
                    <columns>areacode</columns>
                    <algorithm>hash-int</algorithm> 
            </rule>
    </tableRule>
    …
    <function name="hash-int" class="io.mycat.route.function.PartitionByFileMap">
            <property name="mapFile">partition-hash-int.txt</property>
            <property name="type">1</property>
            <property name="defaultNode">0</property>
    </function>
    • columns:分片字段,algorithm:分片函数

    • mapFile:标识配置文件名称,type:0为int型、非0为String,

    • defaultNode:默认节点:小于 0 表示不设置默认节点,大于等于 0 表示设置默认节点,

    • 设置默认节点如果碰到不识别的枚举值,就让它路由到默认节点,如不设置不识别就报错

    (3)修改partition-hash-int.txt配置文件

    110=0
    120=1

    (4)重启 Mycat

    (5)访问Mycat创建表

    #订单归属区域信息表
    CREATE TABLE orders_ware_info(
      `id` INT AUTO_INCREMENT comment '编号',
      `order_id` INT comment '订单编号',
      `address` VARCHAR(200) comment '地址',
      `areacode` VARCHAR(20) comment '区域编号',
      PRIMARY KEY(id)
    );

    (6)插入数据

    INSERT INTO orders_ware_info(id, order_id,address,areacode) VALUES (1,1,'北京','110');
    INSERT INTO orders_ware_info(id, order_id,address,areacode) VALUES (2,2,'天津','120');

    (7)查询Mycat、dn1、dn2可以看到数据分片效果

    3、范围约定

      此分片适用于,提前规划好分片字段某个范围属于哪个分片。

    (1)修改schema.xml配置文件

    <table name="payment_info" dataNode="dn1,dn2" rule="auto_sharding_long" ></table>

    (2)修改rule.xml配置文件

    <tableRule name="auto_sharding_long">
    <rule>
    <columns>order_id</columns>
    <algorithm>rang-long</algorithm>
    </rule>
    </tableRule>
    …
    <function name="rang-long" class="io.mycat.route.function.AutoPartitionByLong">
    <property name="mapFile">autopartition-long.txt</property>
    <property name="defaultNode">0</property>
    </function>
    • columns:分片字段,algorithm:分片函数

    • mapFile:标识配置文件名称

    • defaultNode:默认节点:小于 0 表示不设置默认节点,大于等于 0 表示设置默认节点,

    • 设置默认节点如果碰到不识别的枚举值,就让它路由到默认节点,如不设置不识别就报错

    (3)修改autopartition-long.txt配置文件

    0-102=0
    103-200=1

    (4)重启 Mycat
    (5)访问Mycat创建表

    #支付信息表
    CREATE TABLE payment_info(
      `id` INT AUTO_INCREMENT comment '编号',
      `order_id` INT comment '订单编号',
      `payment_status` INT comment '支付状态',
      PRIMARY KEY(id)
    );

    (6)插入数据

    INSERT INTO payment_info (id,order_id,payment_status) VALUES (1,101,0);
    INSERT INTO payment_info (id,order_id,payment_status) VALUES (2,102,1);
    INSERT INTO payment_info (id,order_id ,payment_status) VALUES (3,103,0);
    INSERT INTO payment_info (id,order_id,payment_status) VALUES (4,104,1);

    (7)查询Mycat、dn1、dn2可以看到数据分片效果

    4、按日期(天)分片

      此规则为按天分片。设定时间格式、范围

    (1)修改schema.xml配置文件

    <table name="login_info" dataNode="dn1,dn2" rule="sharding_by_date" ></table>

    (2)修改rule.xml配置文件

    <tableRule name="sharding_by_date">
    <rule>
    <columns>login_date</columns>
    <algorithm>shardingByDate</algorithm>
    </rule>
    </tableRule>
    …
    <function name="shardingByDate" class="io.mycat.route.function.PartitionByDate">
    <property name="dateFormat">yyyy-MM-dd</property>
    <property name="sBeginDate">2019-01-01</property>
    <property name="sEndDate">2019-01-04</property>
    
    
    <property name="sPartionDay">2</property>
    </function>
    • columns:分片字段,algorithm:分片函数

    • dateFormat :日期格式

    • sBeginDate :开始日期

    • sEndDate:结束日期,则代表数据达到了这个日期的分片后循环从开始分片插入

    • sPartionDay :分区天数,即默认从开始日期算起,分隔 2 天一个分区

    (3)重启 Mycat
    (4)访问Mycat创建表

    #用户信息表
    CREATE TABLE login_info(
      `id` INT AUTO_INCREMENT comment '编号',
      `user_id` INT comment '用户编号',
      `login_date` date comment '登录日期',
      PRIMARY KEY(id)
    );

    (5)插入数据

    INSERT INTO login_info(id,user_id,login_date) VALUES (1,101,'2019-01-01');
    INSERT INTO login_info(id,user_id,login_date) VALUES (2,102,'2019-01-02');
    INSERT INTO login_info(id,user_id,login_date) VALUES (3,103,'2019-01-03');
    INSERT INTO login_info(id,user_id,login_date) VALUES (4,104,'2019-01-04');
    INSERT INTO login_info(id,user_id,login_date) VALUES (5,103,'2019-01-05');
    INSERT INTO login_info(id,user_id,login_date) VALUES (6,104,'2019-01-06');

    (6)查询Mycat、dn1、dn2可以看到数据分片效果

    5.4 、全局序列

      在实现分库分表的情况下,数据库自增主键已无法保证自增主键的全局唯一。为此,Mycat 提供了全局 sequence,并且提供了包含本地配置和数据库配置等多种实现方式

    1、本地文件

      此方式 Mycat 将 sequence 配置到文件中,当使用到 sequence 中的配置后,Mycat 会更下classpath 中的 sequence_conf.properties 文件中 sequence 当前的值。

    • 优点:本地加载,读取速度较快

    • 缺点:抗风险能力差,Mycat 所在主机宕机后,无法读取本地文件。

    2、数据库方式

      利用数据库一个表 来进行计数累加。但是并不是每次生成序列都读写数据库,这样效率太低。Mycat 会预加载一部分号段到 Mycat 的内存中,这样大部分读写序列都是在内存中完成的。如果内存中的号段用完了 Mycat 会再向数据库要一次。

    问:那如果 Mycat 崩溃了 ,那内存中的序列岂不是都没了? 是的。如果是这样,那么 Mycat 启动后会向数据库申请新的号段,原有号段会弃用。也就是说如果 Mycat 重启,那么损失是当前的号段没用完的号码,但是不会因此出现主键重复。

    ① 建库序列脚本

    #在 dn1 上创建全局序列表
    CREATE TABLE MYCAT_SEQUENCE (
      NAME VARCHAR(50) NOT NULL,
      current_value INT NOT NULL,
      increment INT NOT NULL DEFAULT 100, 
      PRIMARY KEY(NAME)
    ) ENGINE=INNODB;
    #创建全局序列所需函数
    DELIMITER $$
        CREATE FUNCTION mycat_seq_currval(seq_name VARCHAR(50)) RETURNS VARCHAR(64)
        DETERMINISTIC
        BEGIN
            DECLARE retval VARCHAR(64);
            SET retval="-999999999,null";
        SELECT CONCAT(CAST(current_value AS CHAR),",",CAST(increment AS CHAR)) INTO retval FROM
            MYCAT_SEQUENCE WHERE NAME = seq_name;
        RETURN retval;
    END $$
    DELIMITER ;
    DELIMITER $$
    CREATE FUNCTION mycat_seq_setval(seq_name VARCHAR(50),VALUE INTEGER) RETURNS
    VARCHAR(64)
    DETERMINISTIC
    BEGIN
    UPDATE MYCAT_SEQUENCE
    
    SET current_value = VALUE
    WHERE NAME = seq_name;
    RETURN mycat_seq_currval(seq_name);
    END $$
    DELIMITER ;
    DELIMITER $$
    CREATE FUNCTION mycat_seq_nextval(seq_name VARCHAR(50)) RETURNS VARCHAR(64)
    DETERMINISTIC
    BEGIN
    UPDATE MYCAT_SEQUENCE
    SET current_value = current_value + increment WHERE NAME = seq_name;
    RETURN mycat_seq_currval(seq_name);
    END $$
    DELIMITER ;
    #初始化序列表记录
    INSERT INTO MYCAT_SEQUENCE(NAME,current_value,increment) VALUES ('ORDERS', 400000,
    100);

    ② 修改 Mycat 配置

    #修改 sequence_db_conf.properties
    vim sequence_db_conf.properties
    #意思是 ORDERS这个序列在dn1这个节点上,具体dn1节点是哪台机子,请参考schema.xml

    #修改 server.xml
    vim server.xml
    #全局序列类型:0-本地文件,1-数据库方式,2-时间戳方式。此处应该修改成1。

      重启Mycat

    ③ 验证全局序列

    #登录 Mycat,插入数据
    insert into orders(id,amount,customer_id,order_type) values(next value for
    MYCATSEQ_ORDERS,1000,101,102);
    #查询数据

      重启Mycat后,再次插入数据,再查询

    3、时间戳方式 全局序列ID= 64 位二进制 (42(毫秒)+5(机器 ID)+5(业务编码)+12(重复累加) 换算成十进制为 18 位的long 类型,每毫秒可以并发 12 位二进制的累加。

    • 优点:配置简单

    • 缺点:18 位 ID 过长

    4、自主生成全局序列 可在 java 项目里自己生成全局序列,如下:

    • 根据业务逻辑组合

    • 可以利用 redis 的单线程原子性 incr 来生成序列但,自主生成需要单独在工程中用 java 代码实现,还是推荐使用 Mycat 自带全局序列。

  • 相关阅读:
    Linux常用命令
    jq实现全选,全取消,反选
    apache httpd.conf配置文件详解
    Python Django 商城项目总结
    Python练习题(九)
    Python练习题(八)
    Python练习题(七)
    Python练习题(六)
    Python练习题(五)
    Python练习题(四)
  • 原文地址:https://www.cnblogs.com/jdy1022/p/14395929.html
Copyright © 2011-2022 走看看