当前位置:   article > 正文

微服务开发与实战Day09 - Elasticsearch

微服务开发与实战Day09 - Elasticsearch

一、DSL查询

Elasticsearch提供了DSL(Domain Specific Language)查询,就是以JSON格式来定义查询条件。类似这样:

DSL查询可以分为两大类:

  • 叶子查询(Leaf query clauses):一般是在特定的字段里查询特定值,属于简单查询,很少单独使用。
  • 复合查询(Compound query clauses):以逻辑方式组合多个叶子查询或者更改叶子查询的行为方式。

在查询以后,还可以对查询的结果做处理,包括:

  • 排序:按照1个或多个字段值做排序
  • 分页:根据from和size做分页,类似MySQL
  • 高亮:对搜索结果中的关键字添加特殊样式,使其更加醒目
  • 复合:对搜索结果做数据统计以形成报表

1. 快速入门

基于DSL的查询语法如下:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "查询类型": {
  5. "查询条件": "条件值"
  6. }
  7. }
  8. }

例如,以最简单的无条件查询为例,无条件查询到类型是:match_all,因此其查询语句如下:

  1. # 查询所有
  2. GET /items/_search
  3. {
  4. "query": {
  5. "match_all": {
  6. }
  7. }
  8. }

查询结果:

你会发现虽然是match_all,但是响应结果中并不会包含索引库中的所有文档,而是仅有10条。这是因为处于安全考虑,elasticsearch设置了默认的查询页数。

2. 叶子查询

Query DSL | Elasticsearch Guide [7.12] | Elastic

叶子查询还可以进一步细分,常见的有:

全文检索(full text)查询:利用分词器对用户输入内容分词,然后去词表列表中匹配。例如:

  • match_query
  • multi_match_query

精确查询不对用户输入内容分词,直接精确匹配,一般是查找keyword、数值、日期、布尔等类型。例如:

  • ids
  • range
  • term

地理(geo)查询:用于搜索地理位置,搜索方式很多。例如:

  • geo_distance
  • geo_bounding_box

2.1 全文检索查询:

match查询:全文检索查询的一种,会对用户输入内容分词,然后去倒排索引库检索,语法:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "match": {
  5. "字段名": "搜索条件"
  6. }
  7. }
  8. }

例如,

  1. # match查询
  2. GET /items/_search
  3. {
  4. "query": {
  5. "match": {
  6. "name": "女式牛仔裤"
  7. }
  8. }
  9. }

multi_macth查询:与match查询类似,只不过允许同时查询多个字段,参与查询字段越多,查询性能越差,语法:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "multi_match": {
  5. "query": "搜索条件",
  6. "fields": ["字段1", "字段2"]
  7. }
  8. }
  9. }

例如,

  1. # multi_match查询
  2. GET /items/_search
  3. {
  4. "query": {
  5. "multi_match": {
  6. "query": "女式牛仔裤",
  7. "fields": ["name", "category"]
  8. }
  9. }
  10. }

2.2 精确查询

term查询:根据词条精确匹配,一般搜索keyword类型、数值类型、布尔类型、日期类型字段,语法:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "term": {
  5. "字段名": {
  6. "value": "搜索条件"
  7. }
  8. }
  9. }
  10. }

例如,

  1. # term查询
  2. GET /items/_search
  3. {
  4. "query": {
  5. "term": {
  6. "brand": {
  7. "value": "德亚"
  8. }
  9. }
  10. }
  11. }

range查询:根据数值范围查询,可以是数值、日期的范围,语法:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "range": {
  5. "字段名": {
  6. "gte": {最小值},
  7. "lte": {最大值}
  8. }
  9. }
  10. }
  11. }

例如,

  1. # range查询
  2. GET /items/_search
  3. {
  4. "query": {
  5. "range": {
  6. "price": {
  7. "gte": 50000,
  8. "lte": 100000
  9. }
  10. }
  11. }
  12. }

ids查询:根据id集合进行查询,语法:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "ids": {
  5. "value": ["id值1", "id值2"]
  6. }
  7. }
  8. }
  9. }

例如,

  1. # ids查询
  2. GET /items/_search
  3. {
  4. "query": {
  5. "ids": {
  6. "values": ["613359", "627719"]
  7. }
  8. }
  9. }

3. 复合查询

Compound queries | Elasticsearch Guide [7.12] | Elastic

复合查询大致可以分为两类:

第一类:基于逻辑运算组合叶子查询,实现组合条件,例如:

  • bool

第二类:基于某种算法修改查询时的文档相关性算分,从而改变文档排名。例如:

  • function_score
  • dis_max

3.1 bool查询

布尔查询是一个或多个查询子句的组合。子查询的组合方式有:

  • must:必须匹配每个子查询,类似”与“
  • should:选择性匹配子查询,类似”或“
  • must_not:必须不匹配,不参与算分,类似”非“
  • filter:必须匹配,不参与算分

bool查询的语法如下:

  1. GET /items/_search
  2. {
  3. "query": {
  4. "bool": {
  5. "must": [
  6. {"match": {"name": "手机"}}
  7. ],
  8. "should": [
  9. {"term": {"brand": { "value": "vivo" }}},
  10. {"term": {"brand": { "value": "小米" }}}
  11. ],
  12. "must_not": [
  13. {"range": {"price": {"gte": 2500}}}
  14. ],
  15. "filter": [
  16. {"range": {"price": {"lte": 1000}}}
  17. ]
  18. }
  19. }
  20. }

出于性能考虑,与搜索关键字无关的查询尽量采用must_not或filter逻辑运算,避免参与相关性算分。

例如黑马商城的搜索页面:

其中输入框的搜索条件肯定要参与相关性算分,可以采用match。但是价格范围过滤、品牌过滤、分类过滤等尽量采用filter,不要参与相关性算分。

比如,我们要搜索 手机,但品牌必须是 华为,价格必须是900~1599,那么可以这样写:

  1. GET /items/_search
  2. {
  3. "query": {
  4. "bool": {
  5. "must": [
  6. {"match": {"name": "手机"}}
  7. ],
  8. "filter": [
  9. {"term": {"brand": { "value": "华为" }}},
  10. {"range": {"price": {"gte": 90000, "lt": 159900}}}
  11. ]
  12. }
  13. }
  14. }

3.2 算分函数查询

当我们利用match查询时,文档结果会根据与搜索词条的关联度打分(_score),返回结果时按照分值降序排序。

例如,我们搜索”手机“”,结果如下:

从Elasticsearch5.1开始,采用的相关性打分算法是BM25算法,公式如下:

基于这套公式,就可以判断出某个文档与用户搜索的关键字之间的关联度。但是在实际业务需求中,常常会有竞价排名的功能。不是相关度越高排名越靠前,而是掏的钱越多排名越靠前。

要想人为控制相关性算分,就需要利用elasticsearch中的function score查询了。

基本语法:

function score查询中包含四部分内容:

原始查询条件:query部分,基于这个条件搜索文档,并且基于BM25算法给文档打分,原始算分(query score)

过滤条件:filter部分,符合该条件的文档才会重新算分

算分函数:符合filter条件的文档要根据这个函数做运算,得到的函数算分(function score),有四种函数

  • weight:函数结果是常量
  • field_value_factor:以文档中的某个字段值作为函数结果
  • random_score:以随机数作为函数结果
  • script_score:自定义算分函数算法

运算模式:算分函数的结果、原始查询的相关性算分,两者之间的运算方式,包括:

  • multiply:相乘
  • replace:用function score替换query score
  • 其它,例如:sum、avg、max、min

function score的运行流程如下:

  • ①根据原始条件查询搜索文档,并且计算相关性算分,称为原始算分(query score)
  • ②根据过滤条件,过滤文档
  • ③符合过滤条件的文档,基于算分函数运算,得到函数算分(function score)
  • ④将原始算分(query score)和函数算分(function score)基于运算模式做运算,得到最终结果,作为相关性算分。

因此,其中的关键点是:

  • 过滤条件:决定哪些文档的算分被修改
  • 算分函数:决定函数算分的算法
  • 运算模式:决定最终算分结果

示例:给IPhone这个品牌的手机算分提高十倍,分析如下:

  • 过滤条件:品牌必须为IPhone
  • 算分函数:常量weight,值为10
  • 算分模式:相乘multiply

对应的代码如下:

  1. GET /hotel/_search
  2. {
  3. "query": {
  4. "function_score": {
  5. "query": { .... }, // 原始查询,可以是任意条件
  6. "functions": [ // 算分函数
  7. {
  8. "filter": { // 满足的条件,品牌必须是Iphone
  9. "term": {
  10. "brand": "Iphone"
  11. }
  12. },
  13. "weight": 10 // 算分权重为2
  14. }
  15. ],
  16. "boost_mode": "multipy" // 加权模式,求乘积
  17. }
  18. }
  19. }

4. 排序和分页

排序

elasticsearch支持对搜索结果排序,默认是根据相关度算分(_score)来排序,也可以指定字段排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。

语法:

  1. GET /indexName/_search
  2. {
  3. "query": {
  4. "match_all": {}
  5. },
  6. "sort": [
  7. {
  8. "排序字段": {
  9. "order": "排序方式asc和desc"
  10. }
  11. }
  12. ]
  13. }

示例,按照商品销量排序,销量一样则按照价格升序排序:

  1. GET /items/_search
  2. {
  3. "query": {
  4. "match_all": {}
  5. },
  6. "sort": [
  7. {
  8. "sold": {
  9. "order": "desc"
  10. }
  11. },
  12. {
  13. "price": {
  14. "order": "asc"
  15. }
  16. }
  17. ]
  18. }

分页

基础分页

elasticsearch默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。elasticsearch中通过修改from、size参数来控制要返回的分页结果:

  • from:从第几个文档开始
  • size:总共查询几个文档

语法:

  1. GET /items/_search
  2. {
  3. "query": {
  4. "match_all": {}
  5. },
  6. "from": 0, // 分页开始的位置,默认为0
  7. "size": 10, // 每页文档数量,默认10
  8. "sort": [
  9. {
  10. "price": {
  11. "order": "desc"
  12. }
  13. }
  14. ]
  15. }

深度分页

elasticsearch的数据一般会采用分片存储,也就是把一个索引中的数据分成N份,存储到不同节点上。查询数据时需要汇总各个分片的数据。

假如我们需要查询第100页数据,每页查10条:

  1. GET /items/_search
  2. {
  3. "from": 990, // 从第990条开始查询
  4. "size": 10, // 每页查询10
  5. "sort": [
  6. {
  7. "price": "asc"
  8. }
  9. ]
  10. }

实现思路:

  • ①对数据排序
  • ②找出第990~1000名

要知道每一片的数据都不一样,第1片上的第900~1000,在另1个节点上并不一定依然是900~1000名。所以我们只能在每一个分片上都找出排名前1000的数据,然后汇总到一起,重新排序,才能找出整个索引库中真正的前1000名,此时截取990~1000的数据即可。

试想一下,假如我们现在要查询的是第999页数据呢,是不是要找第9990~10000的数据,那岂不是需要把每个分片中的前10000名数据都查询出来,汇总在一起,在内存中排序?如果查询的分页深度更深呢,需要一次检索的数据岂不是更多?

由此可知,当查询分页深度较大时,汇总数据过多,对内存和CPU会产生非常大的压力。因此elasticsearch会禁止from+ size 超过10000的请求。

针对深度分页,ES提供了两种解决方案:Paginate search results | Elasticsearch Guide [7.12] | Elastic

rsearch after:分页式需要排序,原理是从上一次的排序值开始,查询下一页数据。官方推荐使用的方式

  • 优点:没有查询上限,支持深度分页
  • 缺点:只能向后逐页查询,不能随机翻页
  • 场景:数据迁移、手机滚动查询

scroll:原理将排序数据形成快照,保存在内存。官方已经不推荐使用。

5. 高亮显示

高亮显示:就是在搜索结果中把搜索关键字突出显示

实现高亮的思路就是:

  • 用户输入搜索关键字搜索数据

  • 服务端根据搜索关键字到elasticsearch搜索,并给搜索结果中的关键字词条添加html标签

  • 前端提前给约定好的html标签添加CSS样式

基本语法如下:

  1. GET /{索引库名}/_search
  2. {
  3. "query": {
  4. "match": {
  5. "搜索字段": "搜索关键字"
  6. }
  7. },
  8. "highlight": {
  9. "fields": { // 指定要高亮的字段
  10. "高亮字段名称": {
  11. "pre_tags": "<em>", // 高亮的前置标签
  12. "post_tags": "</em>" // 高亮的后置标签
  13. }
  14. }
  15. }
  16. }

例如,

  1. # 高亮
  2. GET /items/_search
  3. {
  4. "query": {
  5. "match": {
  6. "name": "脱脂牛奶"
  7. }
  8. },
  9. "highlight": {
  10. "fields": {
  11. "name": {
  12. "pre_tags": "<em>",
  13. "post_tags": "</em>"
  14. }
  15. }
  16. }
  17. }

二、JavaRestClient查询

1. 快速入门

数据搜索的Java代码分为两部分:

  • 构建并发起请求
  • 解析查询结果

1.1 构建并发起请求

代码解读:

  • 第一步,创建SearchRequest对象,指定索引库名

  • 第二步,利用request.source()构建DSL,DSL中可以包含查询、分页、排序、高亮等

    • query():代表查询条件,利用QueryBuilders.matchAllQuery()构建一个match_all查询的DSL

  • 第三步,利用client.search()发送请求,得到响应

这里关键的API有两个,一个是request.source(),它构建的就是DSL中的完整JSON参数。其中包含了querysortfromsizehighlight等所有功能:

另一个是QueryBuilders,其中包含了我们学习过的各种叶子查询复合查询等:

示例:

  1. @Test
  2. void testMatchAll() throws IOException {
  3. // 1. 创建request对象
  4. SearchRequest request = new SearchRequest("items");
  5. // 2. 配置request参数
  6. request.source()
  7. .query(QueryBuilders.matchAllQuery());
  8. // 3. 发送请求
  9. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  10. System.out.println("response = " + response);
  11. }

1.2 解析查询结果

解析查询结果的API:

完整代码:

  1. @Test
  2. void testMatchAll() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. request.source().query(QueryBuilders.matchAllQuery());
  7. // 3.发送请求
  8. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  9. // 4.解析响应
  10. handleResponse(response);
  11. }
  12. private void handleResponse(SearchResponse response) {
  13. SearchHits searchHits = response.getHits();
  14. // 1.获取总条数
  15. long total = searchHits.getTotalHits().value;
  16. System.out.println("共搜索到" + total + "条数据");
  17. // 2.遍历结果数组
  18. SearchHit[] hits = searchHits.getHits();
  19. for (SearchHit hit : hits) {
  20. // 3.得到_source,也就是原始json文档
  21. String source = hit.getSourceAsString();
  22. // 4.反序列化并打印
  23. ItemDoc item = JSONUtil.toBean(source, ItemDoc.class);
  24. System.out.println(item);
  25. }
  26. }

2. 构建查询条件

在JavaRestAPI中,所有类型的query查询条件都是由QueryBuilders来构建的:

全文检索的查询条件构造API如下:

match查询:

  1. @Test
  2. void testMatch() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. request.source().query(QueryBuilders.matchQuery("name", "脱脂牛奶"));
  7. // 3.发送请求
  8. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  9. // 4.解析响应
  10. handleResponse(response);
  11. }

multi_match查询:

  1. @Test
  2. void testMultiMatch() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. request.source().query(QueryBuilders.multiMatchQuery("脱脂牛奶", "name", "category"));
  7. // 3.发送请求
  8. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  9. // 4.解析响应
  10. handleResponse(response);
  11. }

精确查询的查询条件构造API如下:

range查询:

  1. @Test
  2. void testRange() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. request.source().query(QueryBuilders.rangeQuery("price").gte(10000).lte(30000));
  7. // 3.发送请求
  8. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  9. // 4.解析响应
  10. handleResponse(response);
  11. }

term查询:

  1. @Test
  2. void testTerm() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. request.source().query(QueryBuilders.termQuery("brand", "华为"));
  7. // 3.发送请求
  8. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  9. // 4.解析响应
  10. handleResponse(response);
  11. }

复合查询也是由QueryBuilders来构建,以bool查询为例:

案例:构建复杂条件的搜索

需求:利用JavaRestClient实现搜索功能,条件如下:

  • 搜索关键字为脱脂牛奶
  • 品牌必须为德亚
  • 价格必须低于300元
  1. @Test
  2. void testBool() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. // 2.1.准备bool查询
  7. BoolQueryBuilder bool = QueryBuilders.boolQuery();
  8. // 2.2.关键字搜索
  9. bool.must(QueryBuilders.matchQuery("name", "脱脂牛奶"));
  10. // 2.3.品牌过滤
  11. bool.filter(QueryBuilders.termQuery("brand", "德亚"));
  12. // 2.4.价格过滤
  13. bool.filter(QueryBuilders.rangeQuery("price").lte(30000));
  14. request.source().query(bool);
  15. // 3.发送请求
  16. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  17. // 4.解析响应
  18. handleResponse(response);
  19. }

3. 排序和分页

与query类似,排序和分页参数都是基于request.source()来设置:

  1. @Test
  2. void testPageAndSort() throws IOException {
  3. int pageNo = 1, pageSize = 5;
  4. // 1.创建Request
  5. SearchRequest request = new SearchRequest("items");
  6. // 2.组织请求参数
  7. // 2.1.搜索条件参数
  8. request.source().query(QueryBuilders.matchQuery("name", "脱脂牛奶"));
  9. // 2.2.排序参数
  10. request.source().sort("price", SortOrder.ASC);
  11. // 2.3.分页参数
  12. request.source().from((pageNo - 1) * pageSize).size(pageSize);
  13. // 3.发送请求
  14. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  15. // 4.解析响应
  16. handleResponse(response);
  17. }

4. 高亮显示

高亮查询与前面的查询有两点不同:

  • 条件同样是在request.source()中指定,只不过高亮条件要基于HighlightBuilder来构造
  • 高亮响应结果与搜索的文档结果不在一起,需要单独解析

高亮显示的条件构造API如下:

示例代码:

  1. @Test
  2. void testHighlight() throws IOException {
  3. // 1.创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2.组织请求参数
  6. // 2.1.query条件
  7. request.source().query(QueryBuilders.matchQuery("name", "脱脂牛奶"));
  8. // 2.2.高亮条件
  9. request.source().highlighter(
  10. SearchSourceBuilder.highlight()
  11. .field("name")
  12. .preTags("<em>")
  13. .postTags("</em>")
  14. );
  15. // 3.发送请求
  16. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  17. // 4.解析响应
  18. parseResponseResult(response);
  19. }

高亮显示的结果解析API如下:

完整代码:

  1. @Test
  2. void testHighlight() throws IOException {
  3. int pageNo = 1, pageSize = 5;
  4. // 1. 创建Request
  5. SearchRequest request = new SearchRequest("items");
  6. // 2. 组织请求参数
  7. // 2.1 搜索条件参数
  8. request.source().query(QueryBuilders.matchQuery("name", "脱脂牛奶"));
  9. // 2.2 高亮条件
  10. request.source().highlighter(
  11. SearchSourceBuilder
  12. .highlight()
  13. .field("name")
  14. .preTags("<em>")
  15. .postTags("</em>")
  16. );
  17. // 3. 发送请求
  18. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  19. // 4. 解析响应
  20. parseResponseResult(response);
  21. }
  22. private static void parseResponseResult(SearchResponse response) {
  23. SearchHits searchHits = response.getHits();
  24. // 4.1 总条数
  25. long total = searchHits.getTotalHits().value;
  26. System.out.println("total = " + total);
  27. // 4.2 命中的数据
  28. SearchHit[] hits = searchHits.getHits();
  29. for (SearchHit hit : hits) {
  30. // 4.2.1 获取source结果
  31. String json = hit.getSourceAsString();
  32. // 4.2.2 转为ItemDoc
  33. ItemDoc doc = JSONUtil.toBean(json, ItemDoc.class);
  34. // 4.3 处理高亮结果
  35. Map<String, HighlightField> hfs = hit.getHighlightFields();
  36. if(hfs != null && !hfs.isEmpty()) {
  37. // 4.3.1 根据高亮字段名获取高亮结果
  38. HighlightField hf = hfs.get("name");
  39. // 4.3.2 获取高亮结果,覆盖非高亮结果
  40. String hfName = hf.getFragments()[0].string();
  41. doc.setName(hfName);
  42. }
  43. System.out.println("doc = " + doc);
  44. }
  45. }
  46. }

三、数据聚合

聚合(aggregations):可以实现对文档数据的统计、分析、运算。聚合常见的三类:

桶(Bucket)聚合:用来对文档做分组

  • TermAggregation:按照文档字段值分组
  • Date Histogram:按照日期阶梯分组,例如一周为一组,或者一月为一组

度量(Metric)聚合:用以计算一些值,比如:最大值、最小值、平均值等

  • Avg:求平均值
  • Max:求最大值
  • Min:求最小值
  • Stats:同时求max、min、avg、sum等

管道(pipeline)聚合:其他聚合的结果为基础做聚合

注意,参与聚合的字段必须是KeyWord、数值、日期、布尔等类型的字段。

1. DSL聚合

1.1 桶(Bucket)聚合

基本语法:

  1. GET /items/_search
  2. {
  3. "query": {"match_all": {}}, // 可以省略
  4. "size": 0, // 设置size为0,结果中不包含文档,只包含聚合结果
  5. "aggs": { // 定义聚合
  6. "category_agg": { // 给聚合起个名字
  7. "terms": { // 聚合的类型,按照品牌值聚合,所以选择term
  8. "field": "category", // 参与聚合的字段
  9. "size": 20 // 希望获取的聚合结果数量
  10. }
  11. }
  12. }
  13. }

案例1:我们要统计所有商品中共有哪些商品分类,其实就是以分类(category)字段做数据分组。category值一样的放在同一组,属于Bucket聚合中的Term聚合。

示例:

  1. # Bucket聚合
  2. GET /items/_search
  3. {
  4. "size": 0,
  5. "aggs": {
  6. "cate_agg": {
  7. "terms": {
  8. "field": "category",
  9. "size": 5
  10. }
  11. },
  12. "brand_agg": {
  13. "terms": {
  14. "field": "brand",
  15. "size": 5
  16. }
  17. }
  18. }
  19. }

结果:

  1. {
  2. "took" : 101,
  3. "timed_out" : false,
  4. "_shards" : {
  5. "total" : 1,
  6. "successful" : 1,
  7. "skipped" : 0,
  8. "failed" : 0
  9. },
  10. "hits" : {
  11. "total" : {
  12. "value" : 10000,
  13. "relation" : "gte"
  14. },
  15. "max_score" : null,
  16. "hits" : [ ]
  17. },
  18. "aggregations" : {
  19. "brand_agg" : {
  20. "doc_count_error_upper_bound" : 0,
  21. "sum_other_doc_count" : 73002,
  22. "buckets" : [
  23. {
  24. "key" : "华为",
  25. "doc_count" : 7145
  26. },
  27. {
  28. "key" : "南极人",
  29. "doc_count" : 2432
  30. },
  31. {
  32. "key" : "奥古狮登",
  33. "doc_count" : 2035
  34. },
  35. {
  36. "key" : "森马",
  37. "doc_count" : 2005
  38. },
  39. {
  40. "key" : "恒源祥",
  41. "doc_count" : 1856
  42. }
  43. ]
  44. },
  45. "cate_agg" : {
  46. "doc_count_error_upper_bound" : 0,
  47. "sum_other_doc_count" : 7583,
  48. "buckets" : [
  49. {
  50. "key" : "休闲鞋",
  51. "doc_count" : 20612
  52. },
  53. {
  54. "key" : "牛仔裤",
  55. "doc_count" : 19611
  56. },
  57. {
  58. "key" : "老花镜",
  59. "doc_count" : 16222
  60. },
  61. {
  62. "key" : "拉杆箱",
  63. "doc_count" : 14347
  64. },
  65. {
  66. "key" : "手机",
  67. "doc_count" : 10100
  68. }
  69. ]
  70. }
  71. }
  72. }

案例2:默认情况下,Bucket聚合是对索引库的所有文档做聚合,我们可以限定要聚合的文档范围,只要添加query条件即可。

例如,我们想知道价格高于3000元的手机品牌有哪些:

  1. GET /items/_search
  2. {
  3. "query": {
  4. "bool": {
  5. "filter": [
  6. {"term": {"category": "手机"}},
  7. {"range": {"price": {"gte": 300000}}}
  8. ]
  9. }
  10. },
  11. "size": 0,
  12. "aggs": {
  13. "brand_agg": {
  14. "terms": {
  15. "field": "brand",
  16. "size": 10
  17. }
  18. }
  19. }
  20. }

结果:

  1. {
  2. "took" : 4,
  3. "timed_out" : false,
  4. "_shards" : {
  5. "total" : 1,
  6. "successful" : 1,
  7. "skipped" : 0,
  8. "failed" : 0
  9. },
  10. "hits" : {
  11. "total" : {
  12. "value" : 14,
  13. "relation" : "eq"
  14. },
  15. "max_score" : null,
  16. "hits" : [ ]
  17. },
  18. "aggregations" : {
  19. "brand_agg" : {
  20. "doc_count_error_upper_bound" : 0,
  21. "sum_other_doc_count" : 0,
  22. "buckets" : [
  23. {
  24. "key" : "Apple",
  25. "doc_count" : 7
  26. },
  27. {
  28. "key" : "华为",
  29. "doc_count" : 4
  30. },
  31. {
  32. "key" : "小米",
  33. "doc_count" : 2
  34. },
  35. {
  36. "key" : "三星",
  37. "doc_count" : 1
  38. }
  39. ]
  40. }
  41. }
  42. }

1.2 度量(Metric)聚合

除了对数据分组(Bucket)之外,我们还可以对每个Bucket内的数据进一步做数据计算和统计。

例如,我们想知道手机有哪些品牌,每个品牌的价格最小值、最大值、平均值。

  1. GET /items/_search
  2. {
  3. "query": {
  4. "bool": {
  5. "filter": [
  6. {
  7. "term": {
  8. "category": "手机"
  9. }
  10. },
  11. {
  12. "range": {
  13. "price": {
  14. "gte": 300000
  15. }
  16. }
  17. }
  18. ]
  19. }
  20. },
  21. "size": 0,
  22. "aggs": {
  23. "brand_agg": {
  24. "terms": {
  25. "field": "brand",
  26. "size": 20
  27. },
  28. "aggs": {
  29. "stats_meric": {
  30. "stats": {
  31. "field": "price"
  32. }
  33. }
  34. }
  35. }
  36. }
  37. }

结果:

  1. {
  2. "took" : 4,
  3. "timed_out" : false,
  4. "_shards" : {
  5. "total" : 1,
  6. "successful" : 1,
  7. "skipped" : 0,
  8. "failed" : 0
  9. },
  10. "hits" : {
  11. "total" : {
  12. "value" : 11,
  13. "relation" : "eq"
  14. },
  15. "max_score" : null,
  16. "hits" : [ ]
  17. },
  18. "aggregations" : {
  19. "brand_agg" : {
  20. "doc_count_error_upper_bound" : 0,
  21. "sum_other_doc_count" : 0,
  22. "buckets" : [
  23. {
  24. "key" : "Apple",
  25. "doc_count" : 7,
  26. "stats_meric" : {
  27. "count" : 7,
  28. "min" : 628900.0,
  29. "max" : 688000.0,
  30. "avg" : 653871.4285714285,
  31. "sum" : 4577100.0
  32. }
  33. },
  34. {
  35. "key" : "华为",
  36. "doc_count" : 2,
  37. "stats_meric" : {
  38. "count" : 2,
  39. "min" : 429400.0,
  40. "max" : 544000.0,
  41. "avg" : 486700.0,
  42. "sum" : 973400.0
  43. }
  44. },
  45. {
  46. "key" : "三星",
  47. "doc_count" : 1,
  48. "stats_meric" : {
  49. "count" : 1,
  50. "min" : 474200.0,
  51. "max" : 474200.0,
  52. "avg" : 474200.0,
  53. "sum" : 474200.0
  54. }
  55. },
  56. {
  57. "key" : "小米",
  58. "doc_count" : 1,
  59. "stats_meric" : {
  60. "count" : 1,
  61. "min" : 889400.0,
  62. "max" : 889400.0,
  63. "avg" : 889400.0,
  64. "sum" : 889400.0
  65. }
  66. }
  67. ]
  68. }
  69. }
  70. }

2. RestClient聚合

我们以品牌聚合为例:

结果解析:

完整代码:

  1. @Test
  2. void testAgg() throws IOException {
  3. // 1. 创建Request
  4. SearchRequest request = new SearchRequest("items");
  5. // 2. 组织请求参数
  6. // 2.1 分页
  7. request.source().size(0);
  8. // 2.2 聚合条件
  9. String brandAggName = "brandAgg";
  10. request.source().aggregation(
  11. AggregationBuilders.terms(brandAggName).field("brand").size(10)
  12. );
  13. // 3. 发送请求
  14. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  15. // 4. 解析响应
  16. // 4.1 解析聚合结果
  17. Aggregations aggregations = response.getAggregations();
  18. // 4.2 根据名称获取聚合结果
  19. Terms brandTerms = aggregations.get("brandAgg");
  20. // 4.3 获取桶
  21. List<? extends Terms.Bucket> buckets = brandTerms.getBuckets();
  22. // 4.4 遍历
  23. for (Terms.Bucket bucket : buckets) {
  24. // 4.4.1 获取key,也就是品牌信息
  25. String brandName = bucket.getKeyAsString();
  26. System.out.println("brand = " + brandName);
  27. }
  28. }

结果:

四、作业

参考代码:

  1. package com.hmall.item.controller;
  2. import cn.hutool.core.util.StrUtil;
  3. import cn.hutool.json.JSONUtil;
  4. import com.baomidou.mybatisplus.core.metadata.OrderItem;
  5. import com.baomidou.mybatisplus.extension.plugins.pagination.Page;
  6. import com.hmall.common.domain.PageDTO;
  7. import com.hmall.item.domain.po.Item;
  8. import com.hmall.item.domain.po.ItemDoc;
  9. import com.hmall.item.domain.query.ItemPageQuery;
  10. import io.swagger.annotations.Api;
  11. import io.swagger.annotations.ApiOperation;
  12. import org.apache.http.HttpHost;
  13. import org.elasticsearch.action.search.SearchRequest;
  14. import org.elasticsearch.action.search.SearchResponse;
  15. import org.elasticsearch.client.RequestOptions;
  16. import org.elasticsearch.client.RestClient;
  17. import org.elasticsearch.client.RestHighLevelClient;
  18. import org.elasticsearch.index.query.BoolQueryBuilder;
  19. import org.elasticsearch.index.query.QueryBuilders;
  20. import org.elasticsearch.search.SearchHit;
  21. import org.elasticsearch.search.SearchHits;
  22. import org.elasticsearch.search.aggregations.AggregationBuilders;
  23. import org.elasticsearch.search.aggregations.bucket.MultiBucketsAggregation;
  24. import org.elasticsearch.search.aggregations.bucket.terms.Terms;
  25. import org.elasticsearch.search.sort.SortOrder;
  26. import org.springframework.web.bind.annotation.GetMapping;
  27. import org.springframework.web.bind.annotation.PostMapping;
  28. import org.springframework.web.bind.annotation.RequestMapping;
  29. import org.springframework.web.bind.annotation.RestController;
  30. import java.io.IOException;
  31. import java.util.ArrayList;
  32. import java.util.HashMap;
  33. import java.util.List;
  34. import java.util.Map;
  35. import java.util.stream.Collectors;
  36. @Api(tags = "搜索相关接口")
  37. @RestController
  38. @RequestMapping("/search")
  39. public class SearchController {
  40. private RestHighLevelClient client = new RestHighLevelClient(RestClient.builder(
  41. HttpHost.create("http://192.168.126.151:9200")
  42. ));
  43. @ApiOperation("搜索商品")
  44. @GetMapping("/list")
  45. public PageDTO<ItemDoc> search(ItemPageQuery query) throws IOException {
  46. // 1. 准备Request
  47. SearchRequest request = new SearchRequest("items");
  48. // 2. 构造查询条件
  49. BoolQueryBuilder queryBuilder = QueryBuilders.boolQuery();
  50. // 2.1 查询关键字
  51. if(StrUtil.isNotBlank(query.getKey())) {
  52. queryBuilder.must(QueryBuilders.matchQuery("name", query.getKey()));
  53. }
  54. // 2.2 查询的品牌
  55. if(StrUtil.isNotBlank(query.getBrand())) {
  56. queryBuilder.filter(QueryBuilders.termQuery("brand", query.getBrand()));
  57. }
  58. // 2.3 查询的分类
  59. if(StrUtil.isNotBlank(query.getCategory())) {
  60. queryBuilder.filter(QueryBuilders.matchQuery("category", query.getCategory()));
  61. }
  62. // 2.4 查询的价格区间
  63. if(query.getMaxPrice() != null) {
  64. queryBuilder.filter(QueryBuilders.rangeQuery("price").gte(query.getMinPrice()).lte(query.getMaxPrice()));
  65. }
  66. // 3. 组织DSL参数
  67. request.source()
  68. .query(queryBuilder)
  69. .size(query.getPageSize())
  70. .from(query.from());
  71. // 4. 排序
  72. List<OrderItem> orders = query.toMpPage("updateTime", false).getOrders();
  73. for (OrderItem orderItem : orders) {
  74. request.source().sort(orderItem.getColumn(), orderItem.isAsc() ? SortOrder.ASC : SortOrder.DESC);
  75. }
  76. // 5. 发送请求
  77. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  78. // 6. 解析响应结果
  79. SearchHits hits = response.getHits();
  80. // 6.1 查询的总条数
  81. long total = hits.getTotalHits().value;
  82. // 6.2 查询的页码
  83. long pages = query.getPageNo();
  84. // 6.3 查询的结果数组
  85. SearchHit[] searchHits = hits.getHits();
  86. ArrayList<ItemDoc> itemDocs = new ArrayList<>();
  87. if(searchHits != null) {
  88. for (SearchHit searchHit : searchHits) {
  89. itemDocs.add(JSONUtil.toBean(searchHit.getSourceAsString(), ItemDoc.class));
  90. }
  91. }
  92. // 7. 封装并返回
  93. Page<Item> page = new Page<>();
  94. page.setTotal(total);
  95. page.setPages(pages);
  96. return PageDTO.of(page, itemDocs);
  97. }
  98. @ApiOperation("搜索商品分类")
  99. @PostMapping("/filters")
  100. public Map filters(ItemPageQuery query) throws IOException {
  101. // 1. 准备Request
  102. SearchRequest request = new SearchRequest("items");
  103. // 2. 组织请求参数
  104. BoolQueryBuilder queryBuilder = QueryBuilders.boolQuery();
  105. // 2.1 查询关键字
  106. if (StrUtil.isNotBlank(query.getKey())) {
  107. queryBuilder.must(QueryBuilders.matchQuery("name", query.getKey()));
  108. }
  109. // 2.2 查询的品牌
  110. if (StrUtil.isNotBlank(query.getBrand())) {
  111. queryBuilder.filter(QueryBuilders.termQuery("brand", query.getBrand()));
  112. }
  113. // 2.3 查询的分类
  114. if (StrUtil.isNotBlank(query.getCategory())) {
  115. queryBuilder.filter(QueryBuilders.matchQuery("category", query.getCategory()));
  116. }
  117. // 2.4 查询的价格区间
  118. if(query.getMaxPrice() != null) {
  119. queryBuilder.filter(QueryBuilders.rangeQuery("price").gte(query.getMinPrice()).lte(query.getMaxPrice()));
  120. }
  121. // 2.5 聚合条件
  122. String categoryAgg = "category_agg";
  123. String brandAgg = "brand_agg";
  124. request.source().query(queryBuilder).aggregation(
  125. AggregationBuilders.terms(categoryAgg).field("category"))
  126. .aggregation(AggregationBuilders.terms(brandAgg).field("brand"));
  127. // 3. 发送请求
  128. SearchResponse response = client.search(request, RequestOptions.DEFAULT);
  129. // 4. 解析响应
  130. HashMap<String, List<String>> resultMap = new HashMap<>();
  131. // 4.1 获取并解析聚合结果
  132. Terms terms = response.getAggregations().get(categoryAgg);
  133. // 4.2 获取分类信息
  134. if(terms != null) {
  135. resultMap.put("category", terms.getBuckets().
  136. stream().
  137. map(MultiBucketsAggregation.Bucket::getKeyAsString)
  138. .collect(Collectors.toList()));
  139. }
  140. // 4.3 获取品牌信息
  141. terms = response.getAggregations().get(brandAgg);
  142. if(terms != null) {
  143. resultMap.put("brand", terms.getBuckets().
  144. stream().
  145. map(MultiBucketsAggregation.Bucket::getKeyAsString)
  146. .collect(Collectors.toList()));
  147. }
  148. // 5. 封装并返回
  149. return resultMap;
  150. }
  151. }
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/751714
推荐阅读
相关标签
  

闽ICP备14008679号