zoukankan      html  css  js  c++  java
  • Elasticsearch 索引管理和内核探秘

    1. 创建索引,修改索引,删除索引

    //创建索引
    PUT /my_index
    {
      "settings": {
        "number_of_shards": 1,
        "number_of_replicas": 0
      },
      "mappings": {
        "my_type": {
          "properties": {
            "my_field": {
              "type": "text"
            }
          }
        }
      }
    }
    
    //修改索引
    PUT /my_index/_settings
    {
        "number_of_replicas": 1
    }
    
    //删除索引
    DELETE /my_index
    DELETE /index_one,index_two
    DELETE /index_*
    DELETE /_all

    2. 默认分词器standard

    standard tokenizer:以单词边界进行切分
    standard token filter:什么都不做
    lowercase token filter:将所有字母转换为小写
    stop token filer(默认被禁用):移除停用词,比如a the it等等

    修改分词器设置:

    启用english停用词token filter
    
    PUT /my_index
    {
      "settings": {
        "analysis": {
          "analyzer": {
            "es_std": {
              "type": "standard",
              "stopwords": "_english_"
            }
          }
        }
      }
    }

    3.内核--type底层数据结构

    type,是一个index中用来区分类似的数据的,类似的数据但可能有不同的fields;
    field的value,在底层的lucene中建立索引的时候,全部是opaque bytes类型,不区分类型的,因为lucene是没有type的概念的,在document中,实际上将type作为一个document的field来存储,即_type,es通过_type来进行type的过滤和筛选;
    一个index中的多个type,实际上是放在一起存储的,因此一个index下,不能有多个type重名,而类型或者其他设置不同的,因为那样是无法处理的;

    最佳实践,将类似结构的type放在一个index下,这些type应该有多个field是相同的;
    假如说,你将两个type的field完全不同,放在一个index下,那么就每条数据都至少有一半的field在底层的lucene中是空值,会有严重的性能问题;

    //底层存储,一个index下所有的field都会存储,对于不同type下的字段若不存在,则置为空;
    {
      "_type": "elactronic_goods",
      "name": "geli kongtiao",
      "price": 1999.0,
      "service_period": "one year",
      "eat_period": ""
    }
    
    {
      "_type": "fresh_goods",
      "name": "aozhou dalongxia",
      "price": 199.0,
      "service_period": "",
      "eat_period": "one week"
    }

    4. 定制dynamic策略和dynamic mapping策略

    定制dynamic策略:

    true:遇到陌生字段,就进行dynamic mapping;
    false:遇到陌生字段,就忽略;
    strict:遇到陌生字段,就报错;

    dynamic mapping策略:

    1)date_detection

    默认会按照一定格式识别date,比如yyyy-MM-dd。但是如果某个field先过来一个2017-01-01的值,就会被自动dynamic mapping成date,后面如果再来一个"hello world"之类的值,就会报错。可以手动关闭某个type的date_detection,如果有需要,自己手动指定某个field为date类型。

    PUT /my_index/_mapping/my_type
    {
        "date_detection": false
    }

    2)定制自己的dynamic mapping template(type level)

    PUT /my_index
    {
        "mappings": {
            "my_type": {
                "dynamic_templates": [
                    { "en": {
                          "match":              "*_en", 
                          "match_mapping_type": "string",
                          "mapping": {
                              "type":           "string",
                              "analyzer":       "english"
                          }
                    }}
                ]
    }}}
    PUT /my_index/my_type/1
    {
      "title": "this is my first article"
    }
    PUT /my_index/my_type/2
    {
      "title_en": "this is my first article"
    }
    
    title没有匹配到任何的dynamic模板,默认就是standard分词器,不会过滤停用词,is会进入倒排索引,用is来搜索是可以搜索到的
    title_en匹配到了dynamic模板,就是english分词器,会过滤停用词,is这种停用词就会被过滤掉,用is来搜索就搜索不到了

    3)定制自己的default mapping template(index level)

    PUT /my_index
    {
        "mappings": {
            "_default_": {
                "_all": { "enabled":  false }
            },
            "blog": {
                "_all": { "enabled":  true  }
            }
        }
    }

    5. 重建索引

    一个field的设置是不能被修改的,如果要修改一个Field,那么应该重新按照新的mapping,建立一个index,然后将数据批量查询出来,重新用bulk api写入index中;批量查询的时候,建议采用scroll api,并且采用多线程并发的方式来reindex数据,每次scoll就查询指定日期的一段数据,交给一个线程即可;

    1)一开始,依靠dynamic mapping,插入数据,但是些数据是2017-01-01这种日期格式的,所以title这种field被自动映射为了date类型,实际上它应该是string类型的;

    2)当后期向索引中加入string类型的title值的时候,就会报错;如果此时想修改title的类型,是不可能的;

    3)唯一的办法是进行reindex,也就是说,重新建立一个索引,将旧索引的数据查询出来,再导入新索引;

    4)如果说旧索引的名字,是old_index,新索引的名字是new_index,终端java应用,已经在使用old_index在操作了,难道还要去停止java应用,修改使用的index为new_index,才重新启动java应用吗?这个过程中,就会导致java应用停机,可用性降低;所以说,给java应用一个别名,这个别名是指向旧索引的,java应用先用着,java应用先用goods_index alias来操作,此时实际指向的是旧的my_index;     PUT /my_index/_alias/goods_index

    5)新建一个index,调整其title的类型为string;

    6)使用scroll api将数据批量查询出来;采用bulk api将scoll查出来的一批数据,批量写入新索引;

    POST /_bulk
    { "index":  { "_index": "my_index_new", "_type": "my_type", "_id": "2" }}
    { "title":    "2017-01-02" }

    7)反复循环6,查询一批又一批的数据出来,采取bulk api将每一批数据批量写入新索引

    8)将goods_index alias切换到my_index_new上去,java应用会直接通过index别名使用新的索引中的数据,java应用程序不需要停机,零提交,高可用;

    POST /_aliases
    {
        "actions": [
            { "remove": { "index": "my_index", "alias": "goods_index" }},
            { "add":    { "index": "my_index_new", "alias": "goods_index" }}
        ]
    }

    9)直接通过goods_index别名来查询,GET /goods_index/my_type/_search

    5.2 基于alias对client透明切换index
    PUT /my_index_v1/_alias/my_index
    
    client对my_index进行操作
    reindex操作,完成之后,切换v1到v2
    POST /_aliases
    {
        "actions": [
            { "remove": { "index": "my_index_v1", "alias": "my_index" }},
            { "add":    { "index": "my_index_v2", "alias": "my_index" }}
        ]
    }

    6. 倒排索引不可变的好处

    (1)不需要锁,提升并发能力,避免锁的问题;
    (2)数据不变,一直保存在os cache中,只要cache内存足够;
    (3)filter cache一直驻留在内存,因为数据不变;
    (4)可以压缩,节省cpu和io开销;

    倒排索引不可变的坏处:每次都要重新构建整个索引;

    7. document写入的内核级原理

    (1)数据写入buffer缓冲和translog日志文件

    (2)每隔一秒钟,buffer中的数据被写入新的segment file,并进入os cache,此时segment被打开并供search使用,不立即执行commit;--实现近实时;

    数据写入os cache,并被打开供搜索的过程,叫做refresh,默认是每隔1秒refresh一次。也就是说,每隔一秒就会将buffer中的数据写入一个新的index segment file,先写入os cache中。所以,es是近实时的,数据写入到可以被搜索,默认是1秒。

    (3)buffer被清空

    (4)重复1~3,新的segment不断添加,buffer不断被清空,而translog中的数据不断累加

    (5)当translog长度达到一定程度的时候,commit操作发生

    (5-1)buffer中的所有数据写入一个新的segment,并写入os cache,打开供使用

    (5-2)buffer被清空

    (5-3)一个commit ponit被写入磁盘,标明了所有的index segment;会有一个.del文件,标记了哪些segment中的哪些document被标记为deleted了;

    (5-4)filesystem cache中的所有index segment file缓存数据,被fsync强行刷到磁盘上

    (5-5)现有的translog被清空,创建一个新的translog

    //调整刷新的频率
    PUT /my_index
    {
      "settings": {
        "refresh_interval": "30s" 
      }
    }

    默认会在后台执行segment merge操作,在merge的时候,被标记为deleted的document也会被彻底物理删除;

    每次merge操作的执行流程:

    (1)选择一些有相似大小的segment,merge成一个大的segment;
    (2)将新的segment flush到磁盘上去;
    (3)写一个新的commit point,包括了新的segment,并且排除旧的那些segment;
    (4)将新的segment打开供搜索;
    (5)将旧的segment删除;

    POST /my_index/_optimize?max_num_segments=1,尽量不要手动执行,让它自动默认执行;

  • 相关阅读:
    大数据学习13_MapReduce计数器&排序和序列化
    大数据学习12_MapReduce分区
    大数据学习11_MapReduce案例实战(单词统计)
    大数据学习10_Mapreduce
    大数据学习09_HDFS3
    周总结8
    《河北省重大技术需求征集系统》10_导入大量数据做测试
    《河北省重大技术需求征集系统》08_需求浏览
    《河北省重大技术需求征集系统》07_综合查询
    《河北省重大技术需求征集系统》06_网络审核
  • 原文地址:https://www.cnblogs.com/ntbww93/p/9837160.html
Copyright © 2011-2022 走看看