当前位置:   article > 正文

【ES小结】还在用ElasticSearch做查询?换条思路实现高效数据统计_es能做统计_es统计

es统计

img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

需要这份系统化资料的朋友,可以戳这里获取

ElasticSearch高效数据统计
聚合查询
① 什么是聚合查询

聚合是ES除搜索功能外提供的针对ES数据做统计分析的功能,聚合有助于根据搜索查询提供聚合数据,聚合查询是数据库中重要额功能特性,ES作为搜索引擎兼数据库,同样提供了强大的聚合分析功能力,它是基于查询条件来对数据进行分桶、计算的方法,这种很类似与SQL 中的group by 再加上一些函数方法的操作。

在了解聚合查询之前需要注意的一点是:text类型是不支持聚合的,主要是因为text类型本身是分词的,通俗的说,如果一句话分成了多个词然后进行group by操作,那么问题就出现了,到底对哪一个词进行group by操作呢?无法指定!

② Kibana 命令测试聚合查询
创建测试索引
PUT /fruit
{
    "mappings":{
        "properties":{
            "title":"keyword"
        },
        "price":{
            "type":"double"
        },
        "description":{
            "type":"text"
        }
    }
}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

在这里插入图片描述

存放测试数据
PUT /fruit/_bulk
{"index":{}}
	{"title":"面包","price":19.6,"description":"小面包很便宜"}
{"index":{}}
	{"title":"旺旺牛奶","price":29.6,"description":"旺旺牛奶很好喝"}
{"index":{}}
	{"title":"日本豆","price":9.0,"description":"日本豆很便宜"}
{"index":{}}
	{"title":"大辣条","price":10.6,"description":"大辣条超级好吃"}
{"index":{}}
	{"title":"海苔","price":49.6,"description":"海苔很一般"}
{"index":{}}
	{"title":"小饼干","price":9.6,"description":"小饼干很小"}
{"index":{}}
	{"title":"小葡萄","price":59.6,"description":"小葡萄很好吃"}	
{"index":{}}
	{"title":"小饼干","price":19.6,"description":"小饼干很小"}
{"index":{}}
	{"title":"小饼干","price":59.6,"description":"小饼干很小"}
{"index":{}}
	{"title":"小饼干","price":29.6,"description":"小饼干很小"}
{"index":{}}
	{"title":"小饼干","price":39.6,"description":"小饼干很小"}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24

在这里插入图片描述

③ 聚合操作使用
根据某个字段分组
GET /fruit/_search
{
  "query": {
    "match\_all": {
      
    }
  },
  "aggs": {
    "price\_group": {
      "terms": {
        "field": "price"
      }
    }
  }
}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

在这里插入图片描述

求最大值
GET /fruit/_search
{
  "query": {
    "match\_all": {}
  },
  "aggs": {
    "max\_price": {
      "max": {
        "field": "price"
      }
    }
  }
}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

在这里插入图片描述

最小值
GET /fruit/_search
{
  "query": {
    "match\_all": {}
  },
  "size": 0, 
  "aggs": {
    "min\_price": {
      "min": {
        "field": "price"
      }
    }
  }
}


  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

在这里插入图片描述

求总数
GET /fruit/_search
{
  "query": {
    "match\_all": {}
  },
  "size": 0, 
  "aggs": {
    "min\_price": {
      "sum": {
        "field": "price"
      }
    }
  }
}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

在这里插入图片描述

求平均值
GET /fruit/_search
{
  "query": {
    "match\_all": {}
  },
  "size": 0, 
  "aggs": {
    "avg\_price": {
      "avg": {
        "field": "price"
      }
    }
  }
}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

在这里插入图片描述

④ RestHighLevelClient 测试聚合查询

在使用Java API实现上述操作之前,有必要先了解一下实现过程中使用到的某些方法以及工具

常见的聚合查询:

  • 统计某个字段的数量

ValueCountBuilder vcb= AggregationBuilders.count(“分组的名称”).field(“字段”);

  • 去重统计某个字段的数量(有少量的误差)

CardinalityBuilder cb= AggregationBuilders.cardinality(“分组的名称”).field(“字段”);

  • 聚合过滤

FilterAggregationBuilder fab= AggregationBuilders.filter(“分组的名称”).filter(QueryBuilders.queryStringQuery(“字段:过滤值”));

  • 按某个字段分组

TermsBuilder tb= AggregationBuilders.terms(“分组的名称”).field(“字段”);

  • 求最大值

SumBuilder sumBuilder= AggregationBuilders.max(“分组的名称”).field(“字段”);

  • 求最小值

AvgBuilder ab= AggregationBuilders.min(“分组的名称”).field(“字段”);

  • 求平均值

MaxBuilder mb= AggregationBuilders.avg(“分组的名称”).field(“字段”);

  • 按日期间隔分组

DateHistogramBuilder dhb= AggregationBuilders.dateHistogram(“分组的名称”).field(“字段”);

  • 获取聚合里面的结果

TopHitsBuilder thb= AggregationBuilders.topHits(“分组的名称”);

  • 嵌套的聚合

NestedBuilder nb= AggregationBuilders.nested(“分组的名称”).path(“字段”);

  • 反转嵌套

AggregationBuilders.reverseNested(“分组的名称”).path("字段 ");

使用Java API实现上述在Kibana中的各项操作

根据某个字段分组
public class RestHighLevelClientForAggs {
    public static void main(String[] args) {


![img](https://img-blog.csdnimg.cn/img_convert/59511c948e9e6cc5a751b44e0aad433c.png)
![img](https://img-blog.csdnimg.cn/img_convert/fc7e62261675ab31822ac3a63d335314.png)
![img](https://img-blog.csdnimg.cn/img_convert/a5517e4de745649a6b09822a64738baf.png)

**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!**

**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**

**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**

{
    public static void main(String[] args) {


[外链图片转存中...(img-xzZ3RGjk-1715696694637)]
[外链图片转存中...(img-AlgtvtFh-1715696694637)]
[外链图片转存中...(img-GtZMDFzh-1715696694638)]

**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!**

**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**

**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/寸_铁/article/detail/994888
推荐阅读
相关标签
  

闽ICP备14008679号