zoukankan      html  css  js  c++  java
  • Mysql通过Merge引擎进行分表

    Mysql通过Merge引擎进行分表

    转载: https://www.jianshu.com/p/9420a6a8ae2e

              https://www.cnblogs.com/xbq8080/p/6628034.html

    使用场景

    • 数据表记录很大,单表记录会超过1000W,比如用户表等。

    测试环境

    • Mysql5.7

    注意

    分表的id不能是自增(auto increment)的;
    分表必须使用MyISAM存储引擎;
    每个分表的表结构必须相同;
    MySQL必须具有存储分表数据文件和索引文件的目录的读写权限;
    必须启用MySQL的符号链接支持功能。
    总表的表结构必须与各个分表相同;
    总表必须使用MRG_MyISAM存储引擎;
    总表不会创建任何数据文件和索引文件;
    MRG文件存储总表需要映射的子表的表名;
    总表本身不存储任何数据和索引;
    INSERT_METHOD需要设置为NO,或者不配置;
    总表的id不能是自增(auto increment)的。
    

    MERGE分表的优点

    • MERGE分表可以解决下面的问题:
    适用于存储日志数据。例如,可以将不同月份的数据存入不同的表,然后使用myisampack工具压缩数据,最后通过一张MERGE表来查询这些数据。
    
    可以获得更快的速度。可以根据某种指标,将一张只读的大表分割成若干张小表,然后将这些小表分别放在不同的磁盘上存储。当需要读取数据时,MERGE表可以将这些小表的数据组织起来,就好像使用先前的大表一样,但是速度会快很多。
    
    可以提高搜索效率。可以根据某种指标将一张只读的大数据表分割为若干个小表,然后根据不同的查询维度,可以得到若干种小表的组合,然后再为这些组合分别创建不同的MERGE表。例如,有一张只读的大数据表T,分割为T1、T2、T3、T4,共4张小表,有两种查询维度A和B,A可以得到小表组合T1、T2和T3,B可以得到小表组合T2、T3和T4,分别为A和B创建两个MERGE表,也就是M1和M2,这两个MERGE表分别关联的小表是存在交叠的。
    
    可以更加有效的修复表。修复单个的小表要比修复大数据表更加容易。
    
    多个子表映射至一个总表的速度极快。因为MERGE表本身不会存储和维护任何索引,索引都是由各个关联的子表存储和维护的,所以创建和重新映射MERGE表的速度非常快。
    
    不受操作系统的文件大小限制。单个表会受到文件大小的限制,但是拆分成多个表,则可以无限扩容。
    
    MERGE表还可以用来给单个表创建别名,并且几乎不会影响性能。
    

    MERGE分表的问题

    总表(MERGE表)必须使用MRG_MyISAM存储引擎,子表必须使用MyISAM存储引擎,不可避免会受到MyISAM存储引擎的限制。
    
    MERGE表不能使用某些MyISAM特性。例如,虽然可以为子表创建全文索引,但是却不能使用全文索引,通过MERGE表查询数据。
    
    MERGE表会使用更多的文件描述符。如果有10个客户端使用1张MERGE表,那么就需要消耗(10×10)+10个文件描述符(其中,10个客户端分别有10个数据文件描述符,并且会共享使用10个索引文件描述符)。
    
    若使用ALTER TABLE语句修改总表的存储引擎,那么会立即丢失总表和子表的映射关系,并且会将所有子表的数据拷贝至修改后的新表。
    
    总表和子表的主键都不能使用自动增长(auto increment)。
    
    子表之间不能保证唯一键约束,只能保证单个子表内部的唯一性约束。
    
    由于不能保证唯一键约束,导致REPLACE语句的行为会不可预期,INSERT ... ON DUPLICATE KEY UPDATE语句也有类似问题。因此,只能使用路由策略,对子表使用这些语句,而不能对总表使用。
    
    子表不支持分区(Partition)。
    
    当正在使用总表时,不能对任何子表执行ANALYZE TABLE、REPAIR TABLE、OPTIMIZE TABLE、ALTER TABLE、DROP TABLE、DELETE或TRUNCATE TABLE语句,否则会导致不可预期的结果。
    
    总表和子表的表结构必须完全一致。
    
    总表可以映射的所有子表的总行数上限为 264 行。
    
    不支持INSERT DELAYED语句。
    

    建立数据库

        CREATE database `test` DEFAULT CHARACTER SET utf8 ;
    

    建立子表

    • 分表必须使用MyISAM存储引擎,而MyISAM表的数据文件(.MYD文件)和索引文件(.MYI文件)是可以分散在不同的磁盘或目录上存储的。
    • 创建数据表的时候可以制定存储目录,如:指定 DATA DIRECTORY = '/home/user3' INDEX DIRECTORY = '/home/user3';
    • 在Shell中执行以下命令,创建存储子表数据和索引的目录:
    # 创建存储user1表数据和索引的目录
    mkdir -p /home/user1
    chown -R mysql:mysql /home/user1
    # 创建存储user2表数据和索引的目录
    mkdir -p /home/user2
    chown -R mysql:mysql /home/user2
    # 创建存储user3表数据和索引的目录
    mkdir -p /home/user3
    chown -R mysql:mysql /home/user3
    
    • 启用MySQL的have_symlink选项,使得MySQL支持符号链接,否则就不能指定MyISAM表的数据文件和索引文件的存储路径。在Shell中执行以下命令,编辑my.cnf文件:
    vi /usr/local/MySQL/etc/my.cnf
    
    • 在my.cnf文件的[mysqld]分段中添加:
    symbolic-links
    
    • 保存my.cnf文件之后,重新启动mysql服务:
    service mysqld restart
    
    • 创建user1、user2、user3分表,执行以下SQL:
    CREATE TABLE `user1` (
     `id` INT NOT NULL,
     `user_name` VARCHAR(45) NOT NULL,
     `password` VARCHAR(45) NOT NULL,
     `create_time` TIMESTAMP NULL,
     `update_time` TIMESTAMP NULL,
      PRIMARY KEY (`id`),
      KEY `user_name` (`user_name`),
      KEY `create_time` (`create_time`)
    )ENGINE = MyISAM;
    CREATE TABLE `user2` like user1;
    CREATE TABLE `user3` like user1;
    
    • 建立user总表
    CREATE TABLE `users` (
     `id` INT NOT NULL,
     `user_name` VARCHAR(45) NOT NULL,
     `password` VARCHAR(45) NOT NULL,
     `create_time` TIMESTAMP NULL,
     `update_time` TIMESTAMP NULL,
      PRIMARY KEY (`id`),
      KEY `user_name` (`user_name`),
      KEY `create_time` (`create_time`)
    )ENGINE = MERGE UNION = (`user1`,`user2`,`user3`);
    
    • or
    CREATE TABLE users like user1;
    ALTER TABLE users ENGINE=MERGE UNION(`user1`,`user2`,`user3`) insert_method=no;
    

    可通过查看users表文件查看是否关联成功,如:

    cat /var/lib/mysql/test/users.MRG
    

    如何操作MERGE表的数据

    • 插入(INSERT)数据时,需要根据给定的路由策略将新数据分别插入不同的子表,此处采用对id进行模3计算(可能结果为0、1、2)来决定插入哪个子表。
    • 首先,应当获取id,这个id应当在各个子表中都是唯一的,我们需要一张表来专门创建id,执行如


    作者:Notonlyphper
    链接:https://www.jianshu.com/p/9420a6a8ae2e
    來源:简书
    简书著作权归作者所有,任何形式的转载都请联系作者获得授权并注明出处。
  • 相关阅读:
    学习优化:训练深度神经网络进行无线资源管理
    (经典文章uplink)Information capacity and power control in single-cell multiuser communications(1995)
    Python运行出错
    2019之VLC3.071版本Ubuntu 18-win32-64为编译经验记录
    Ansys-CHEMKIN-pro表面反应机制输入(Surface Kinetics Input)规则
    tomcat9配置https
    tomcat和iis共用80端口的简明手册
    ANSYS经典APDL编程
    在ANSYS WORKBENCH中使用APDL命令的例子
    现代工程仿真CAE技术介绍
  • 原文地址:https://www.cnblogs.com/gongxianjin/p/9817570.html
Copyright © 2011-2022 走看看