zoukankan      html  css  js  c++  java
  • MongoDB——再次分析 范围片键 和 哈希片键 (转)

    转自:

    https://cloud.tencent.com/developer/article/1766065

    片键

    MongoDB的片键决定了集合中存储的数据在集合中的分布情况,具体的方法是使用片键值的范围来对集合中的数据进行分区。举个例子:

    假如我们以年龄age来作为片键,那么age的范围理论上是0~80,此时,MongoDB会为我们定义age的四个范围区间,他们分别是:0~20,20~40,40~60,60~80,每个范围都是一个chunk,这样我们写入数据之后,数据里面的数据块就有:

    chunk1: age 0~20

    chunk2: age 20~40

    chunk3:age 40~60

    chunk4:age 60~80

    需要注意的是,在一个集合中,被选为片键的这个字段上必须有一个支持片键的索引,或者是必须有一个以这个字段开头的联合索引。

    通常情况下,我们给字段添加的索引,最常见的是普通索引或者哈希索引,

    普通的索引字段如果作为片键,那么这个片键我们称为范围片键;

    哈希索引字段如果作为片键,那么这个片键我们称为哈希片键。

    下面我们来看二者的不同之处:

    02

    范围片键(递增片键)

    范围片键,顾名思义,就是将数据根据片键划分到连续的范围里面,在这个模型中,那些值"相似"的文档可能位于同一个片中。例如下面这样:

    这中分片方式是MongoDB默认的分片方式,它有好处也有坏处。

    好处:

    可以高效的读取连续范围内的目标文档。如果你使用范围查询,则可以比较快速的拿到所有的结果值。因为数据所在的数据chunk比较少。

    坏处:

    如果我们写入的数据都几种在某一个分片区间,那么读写性能都可能因为片键划分不均匀而降低。(例如下图中,数据的基数大部分在20~maxKey,则大部分都在chunk C的位置,本身分布不均匀),Chunk C的写入压力将会增大。

    在下列场景中,使用范围片键比较合适:

    1、数据的基数比较大

    2、分片的写入频率比较低(插入较少不容易产生chunk的搬运)

    3、非单调变化的分片(如果单调写,则会分到同一个块里面,容易达到chunk割裂的条件,产生chunk的搬运)

    如果数据满足上面的三个条件,则我们写入的数据可能是这样的:

    就是比较均匀的写入到了数据块中。

    02

    哈希片键

    哈希片键使用哈希索引在共享集群中对数据进行分区。哈希索引计算单个字段的哈希值作为索引值,该值用作片键(注意,这里并不是字段本身的值,而是hash之后的值)。

    使用哈希索引,我们写入数据之后,对应写入数据块的图示可能如下:

    从图中我们看出来,虽然我们输入的x值比较接近,分别是25、26、27,但是,经过hash函数之后,他们所在的数据块序号可能差距很远

    哈希分片在分片集群中提供了更均匀的数据分布,集合中那些具有近似值的文档,可能会被分到不同的块上,mongos更有可能执行广播操作来完成给定的范围查询。

    哈希值得计算,是由MongoDB来负责的,不是应用程序负责的

    作为哈希片键的索引字段应该有如下特点:

    1、具有大量不同的值

    2、哈希索引适合单调变化的字段,例如自增值,时间值等(因为可以将单调的字段通过hash函数映射到不同的块上去,从而分散写入压力,例如下图,虽然数据连续,但是写入了不同的数据块中)

    它的缺点也比较明显,当我们查询某个范围的值的时候,hash索引会查找更多的数据分片,并将最终的结果汇总起来交给我们。

    在实际生产环境中,我们需要结合自己的需求来确定使用哪种类型的片键,再次强调,在设定某个字段作为片键之前,需要先在当前字段创建对应类型的索引,或者创建一个以当前字段开头的联合索引。否则设定片键的语句会报错。

    下面是分片创建从无到有的过程举例:

    1、创建表,只有一个字段name,并插入数据
    mongos> use aaa
    switched to db aaa
    mongos> db.aaa.insert({name:1})
    WriteResult({ "nInserted" : 1 })
    mongos> db.aaa.insert({name:2})
    WriteResult({ "nInserted" : 1 })
    mongos> db.aaa.insert({name:3})
    WriteResult({ "nInserted" : 1 })
    mongos> db.aaa.insert({name:4})
    WriteResult({ "nInserted" : 1 })
    mongos> 
    
    2、查看数据
    mongos> db.aaa.find()
    { "_id" : ObjectId("5fdb7d54d91f2f9bae3b09a1"), "name" : 1 }
    { "_id" : ObjectId("5fdb7d56d91f2f9bae3b09a2"), "name" : 2 }
    { "_id" : ObjectId("5fdb7d59d91f2f9bae3b09a3"), "name" : 3 }
    { "_id" : ObjectId("5fdb7d5cd91f2f9bae3b09a4"), "name" : 4 }
    
    3、允许数据库分片
    mongos> sh.enableSharding("aaa")
    {
            "ok" : 1,
            "operationTime" : Timestamp(1608220038, 3),
            "$clusterTime" : {
                    "clusterTime" : Timestamp(1608220038, 3),
                    "signature" : {
                            "hash" : BinData(0,"shemm3xvSYrMiy9t7gSYcVtFUuE="),
                            "keyId" : NumberLong("6894922308364795934")
                    }
            }
    }
    mongos> 
    
    4、在name字段创建hash索引
    mongos> db.aaa.createIndex({name:"hashed"},{background:true})
    {
            "raw" : {
                    "sharding_yeyz/127.0.0.1:27018,127.0.0.1:27019,127.0.0.1:27020" : {
                            "createdCollectionAutomatically" : false,
                            "numIndexesBefore" : 1,
                            "numIndexesAfter" : 2,
                            "ok" : 1
                    }
            },
            "ok" : 1,
            "operationTime" : Timestamp(1608220115, 3),
            "$clusterTime" : {
                    "clusterTime" : Timestamp(1608220115, 3),
                    "signature" : {
                            "hash" : BinData(0,"S3Wz9G26eJyOcwa1OLS6TVYu6SE="),
                            "keyId" : NumberLong("6894922308364795934")
                    }
            }
    }
    
    5、以name字段作为片键创建哈希分片
    mongos> sh.shardCollection("aaa.aaa",{name:"hashed"})
    {
            "collectionsharded" : "aaa.aaa",
            "collectionUUID" : UUID("20a3895e-d821-43ae-9d28-305e6ae03bbc"),
            "ok" : 1,
            "operationTime" : Timestamp(1608220238, 10),
            "$clusterTime" : {
                    "clusterTime" : Timestamp(1608220238, 10),
                    "signature" : {
                            "hash" : BinData(0,"qeQlD3jsSvRZkyamEa2hjbezEdM="),
                            "keyId" : NumberLong("6894922308364795934")
                    }
            }
    }
    
    6、查看分片信息
    mongos> db.printShardingStatus()
    --- Sharding Status --- 
      sharding version: {
            "_id" : 1,
            "minCompatibleVersion" : 5,
            "currentVersion" : 6,
            "clusterId" : ObjectId("5fafaf4f5785d9965548f687")
      }
      shards:
            {  "_id" : "sharding_yeyz",  "host" : "sharding_yeyz/127.0.0.1:27018,127.0.0.1:27019,127.0.0.1:27020",  "state" : 1 }
            {  "_id" : "sharding_yeyz1",  "host" : "sharding_yeyz1/127.0.0.1:27024,127.0.0.1:27025,127.0.0.1:27026",  "state" : 1 }
      active mongoses:
            "4.0.6" : 1
      autosplit:
            Currently enabled: yes
      balancer:
            Currently enabled:  yes
            Currently running:  no
            Failed balancer rounds in last 5 attempts:  2
            Last reported error:  Could not find host matching read preference { mode: "primary" } for set sharding_yeyz
            Time of Reported error:  Wed Nov 18 2020 17:08:14 GMT+0800 (CST)
            Migration Results for the last 24 hours: 
                    No recent migrations
      databases:
            {  "_id" : "aaa",  "primary" : "sharding_yeyz",  "partitioned" : true,  "version" : {  "uuid" : UUID("26e55931-d1c1-4dc5-8a03-b5b0e70f6f43"),  "lastMod" : 1 } }
                    aaa.aaa
                            shard key: { "name" : "hashed" }
                            unique: false
                            balancing: true
                            chunks:
                                    sharding_yeyz   1
                            { "name" : { "$minKey" : 1 } } -->> { "name" : { "$maxKey" : 1 } } on : sharding_yeyz Timestamp(1, 0) 
  • 相关阅读:
    4.23Java自定义链表最终封装与完善
    4.23Java vector向量
    托管与非托管
    关于C#中的DLLImport (引)
    C#中通过DllImport使用 Win32 API(引)
    ASP.Net HttpHandler (转)
    C#WinForm获取本机网卡的型号,IP地址,子网掩码和网关
    ManagementObject
    asp.net Session详解(再转)
    C#优化字符串操作(引)
  • 原文地址:https://www.cnblogs.com/xingchong/p/14705545.html
Copyright © 2011-2022 走看看