zoukankan      html  css  js  c++  java
  • 030 ElasticSearch----全文检索技术05---基础知识详解03-聚合

    聚合可以让我们极其方便的实现对数据的统计、分析。例如:

    • 什么品牌的手机最受欢迎?

    • 这些手机的平均价格、最高价格、最低价格?

    • 这些手机每月的销售情况如何?

    实现这些统计功能的比数据库的sql要方便的多,而且查询速度非常快,可以实现实时搜索效果。

     1.基本概念

    Elasticsearch中的聚合,包含多种类型,最常用的两种,一个叫,一个叫度量

    (1)桶

    桶的作用,是按照某种方式对数据进行分组,每一组数据在ES中称为一个,例如我们根据国籍对人划分,可以得到中国桶英国桶日本桶……或者我们按照年龄段对人进行划分:0~10,10~20,20~30,30~40等。

    Elasticsearch中提供的划分桶的方式有很多:

    • Date Histogram Aggregation:根据日期阶梯分组,例如给定阶梯为周,会自动每周分为一组

    • Histogram Aggregation:根据数值阶梯分组,与日期类似

    • Terms Aggregation:根据词条内容分组,词条内容完全匹配的为一组

    • Range Aggregation:数值和日期的范围分组,指定开始和结束,然后按段分组

    • ……

    bucket aggregations 只负责对数据进行分组,并不进行计算,因此往往bucket中往往会嵌套另一种聚合:metrics aggregations即度量

    (2)度量(metrics)

    分组完成以后,我们一般会对组中的数据进行聚合运算,例如求平均值、最大、最小、求和等,这些在ES中称为度量

    比较常用的一些度量聚合方式:

    • Avg Aggregation:求平均值

    • Max Aggregation:求最大值

    • Min Aggregation:求最小值

    • Percentiles Aggregation:求百分比

    • Stats Aggregation:同时返回avg、max、min、sum、count等

    • Sum Aggregation:求和

    • Top hits Aggregation:求前几

    • Value Count Aggregation:求总数

    • ……

    为了测试聚合,我们先批量导入一些数据

    创建索引及映射:

    PUT /cars
    {
      "settings": {
        "number_of_shards": 1,
        "number_of_replicas": 0
      },
      "mappings": {
        "transactions": {
          "properties": {
            "color": {
              "type": "keyword"
            },
            "make": {
              "type": "keyword"
            }
          }
        }
      }
    }

    利用postman工具:

    响应结果:

    使用 Elasticsearch Bulk API /_bulk批量导入数据

    POST /cars/transactions/_bulk

    { "index": {}}
    { "price" : 10000, "color" : "red", "make" : "honda", "sold" : "2014-10-28" }
    { "index": {}}
    { "price" : 20000, "color" : "red", "make" : "honda", "sold" : "2014-11-05" }
    { "index": {}}
    { "price" : 30000, "color" : "green", "make" : "ford", "sold" : "2014-05-18" }
    { "index": {}}
    { "price" : 15000, "color" : "blue", "make" : "toyota", "sold" : "2014-07-02" }
    { "index": {}}
    { "price" : 12000, "color" : "green", "make" : "toyota", "sold" : "2014-08-19" }
    { "index": {}}
    { "price" : 20000, "color" : "red", "make" : "honda", "sold" : "2014-11-05" }
    { "index": {}}
    { "price" : 80000, "color" : "red", "make" : "bmw", "sold" : "2014-01-01" }
    { "index": {}}
    { "price" : 25000, "color" : "blue", "make" : "ford", "sold" : "2014-02-12" }

     

    注意:必须有换行符。

    响应结果:

    注意:在ES中,需要进行聚合、排序、过滤的字段其处理方式比较特殊,因此不能被分词。这里我们将color和make这两个文字类型的字段设置为keyword类型,这个类型不会被分词,将来就可以参与聚合

    2.聚合为桶

    首先,我们按照 汽车的颜色color来划分

    GET /cars/_search
    {
        "size" : 0,
        "aggs" : { 
            "popular_colors" : { 
                "terms" : { 
                  "field" : "color"
                }
            }
        }
    }
    • size: 查询条数,这里设置为0,因为我们不关心搜索到的数据,只关心聚合结果,提高效率

    • aggs:声明这是一个聚合查询,是aggregations的缩写

      • popular_colors:给这次聚合起一个名字,任意。

        • terms:划分桶的方式,这里是根据词条划分

          • field:划分桶的字段

    响应结果:

    • hits:查询结果为空,因为我们设置了size为0

    • aggregations:聚合的结果

    • popular_colors:我们定义的聚合名称

    • buckets:查找到的桶,每个不同的color字段值都会形成一个桶

      • key:这个桶对应的color字段的值

      • doc_count:这个桶中的文档数量

    通过聚合的结果我们发现,目前红色的小车比较畅销!

    3.桶内度量

     

    前面的例子告诉我们每个桶里面的文档数量,这很有用。 但通常,我们的应用需要提供更复杂的文档度量。 例如,每种颜色汽车的平均价格是多少?

     

    因此,我们需要告诉Elasticsearch使用哪个字段使用何种度量方式进行运算,这些信息要嵌套在内,度量的运算会基于内的文档进行

     

    现在,我们为刚刚的聚合结果添加 求价格平均值的度量:

    GET /cars/_search
    {
        "size" : 0,
        "aggs" : { 
            "popular_colors" : { 
                "terms" : { 
                  "field" : "color"
                },
                "aggs":{
                    "avg_price": { 
                       "avg": {
                          "field": "price" 
                       }
                    }
                }
            }
        }
    }

    postman工具使用:

    • aggs:我们在上一个aggs(popular_colors)中添加新的aggs。可见度量也是一个聚合

    • avg_price:聚合的名称

    • avg:度量的类型,这里是求平均值

    • field:度量运算的字段

    响应结果:

    4.桶内嵌套桶

    刚刚的案例中,我们在桶内嵌套度量运算。事实上桶不仅可以嵌套运算, 还可以再嵌套其它桶。也就是说在每个分组中,再分更多组。

    比如:我们想统计每种颜色的汽车中,分别属于哪个制造商,按照make字段再进行分桶

    GET /cars/_search
    {
        "size" : 0,
        "aggs" : { 
            "popular_colors" : { 
                "terms" : { 
                  "field" : "color"
                },
                "aggs":{
                    "avg_price": { 
                       "avg": {
                          "field": "price" 
                       }
                    },
                    "maker":{
                        "terms":{
                            "field":"make"
                        }
                    }
                }
            }
        }
    }
    • 原来的color桶和avg计算我们不变

    • maker:在嵌套的aggs下新添一个桶,叫做maker

    • terms:桶的划分类型依然是词条

    • filed:这里根据make字段进行划分

    postman中响应结果:

    {
        "took": 16,
        "timed_out": false,
        "_shards": {
            "total": 1,
            "successful": 1,
            "skipped": 0,
            "failed": 0
        },
        "hits": {
            "total": 8,
            "max_score": 0.0,
            "hits": []
        },
        "aggregations": {
            "popular_colors": {
                "doc_count_error_upper_bound": 0,
                "sum_other_doc_count": 0,
                "buckets": [
                    {
                        "key": "red",
                        "doc_count": 4,
                        "maker": {
                            "doc_count_error_upper_bound": 0,
                            "sum_other_doc_count": 0,
                            "buckets": [
                                {
                                    "key": "honda",
                                    "doc_count": 3
                                },
                                {
                                    "key": "bmw",
                                    "doc_count": 1
                                }
                            ]
                        },
                        "avg_price": {
                            "value": 32500.0
                        }
                    },
                    {
                        "key": "blue",
                        "doc_count": 2,
                        "maker": {
                            "doc_count_error_upper_bound": 0,
                            "sum_other_doc_count": 0,
                            "buckets": [
                                {
                                    "key": "ford",
                                    "doc_count": 1
                                },
                                {
                                    "key": "toyota",
                                    "doc_count": 1
                                }
                            ]
                        },
                        "avg_price": {
                            "value": 20000.0
                        }
                    },
                    {
                        "key": "green",
                        "doc_count": 2,
                        "maker": {
                            "doc_count_error_upper_bound": 0,
                            "sum_other_doc_count": 0,
                            "buckets": [
                                {
                                    "key": "ford",
                                    "doc_count": 1
                                },
                                {
                                    "key": "toyota",
                                    "doc_count": 1
                                }
                            ]
                        },
                        "avg_price": {
                            "value": 21000.0
                        }
                    }
                ]
            }
        }
    }
    • 我们可以看到,新的聚合maker被嵌套在原来每一个color的桶中。

    • 每个颜色下面都根据 make字段进行了分组

    • 我们能读取到的信息:

      • 红色车共有4辆

      • 红色车的平均售价是 $32,500 美元。

      • 其中3辆是 Honda 本田制造,1辆是 BMW 宝马制造。

     

     

     

  • 相关阅读:
    061.Python前端Django组件用户认证组件
    060.Python组件-中间件
    059.Python前端Django组件cooki和session
    058.Python前端Django与Ajax
    057.Python前端Django模型ORM多表查询
    数字签名与数字证书的原理
    加密算法的分类与区别
    Linux操作php.ini文件
    Linux添加普通权限账号并授予root权限
    Linux 切换 shell
  • 原文地址:https://www.cnblogs.com/luckyplj/p/11596173.html
Copyright © 2011-2022 走看看